Опасные игры с ИИ: Meta* тестирует чат-бота на грибников-новичков

«Волшебник» с ошибочными рекомендациями в социальных сетях.

В одной из грибных групп на Facebook* появился аналитический бот FungiFriend, вызвавший волну полемики после советы о жарке ядовитых грибов. Это событие вновь обращает внимание на потенциальные опасности применения ИИ в хобби для неопытных собирателей грибов.

СМИ ранее сообщали о книгах на Amazon со сгенерированными ИИ рекомендациями и изображения грибов от нейросетей в Google. На этот раз бот FungiFriend был представлен в группе с более 13 000 участников, где большинство — новички, ищущие советы по определению грибов. Модераторы подтвердили, что бот добавлен автоматически Meta* и его удаление уже на подходе.

Meta активно внедряет чат-ботов в группы, представляя их в виде виртуальных персонажей. Однако такие операции вызывают обеспокоенность у специалистов. Эксперты указывают, что ИИ еще не позволяет надежно различать съедобные и токсичные грибы.

FungiFriend предстал как бородатый маг, готовый заменить человеческие советы. Один участник группы спросил совета по грибу Sarcosphaera coronaria, содержащему мышьяк и потенционально смертельному. Бот предложил добавить его в суп или обжарить, чем вызвал тревогу среди пользователей.

Пример общения с FungiFriend ( 404 Media)

Специалисты считают внедрение таких чат-ботов в подобные сообщества очень рискованным решением Meta. Результаты тестирования ИИ показали, что они не предоставляют проверенные советы, особенно когда дело касается различий между съедобными и ядовитыми грибами.

Искусственный интеллект, автоматически добавленный в грибную группу, поднимает вопрос о контроле внедрения ИИ в платформах Meta. В мобильной версии Facebook бот представлен как основная опция взаимодействия, что может снизить уровень человеческой коммуникации.

Многиe пользователи публикуют фотографии грибов с телефона, находясь в лесу, чтобы быстро получить ответы от более опытных участников. Однако в случае с ботом взаимодействие осуществляется в личных сообщениях, что увеличивает риск получения неверных рекомендаций.

По мнению экспертов, новички могут обратиться к ИИ из страха показаться несведущими, но не должны забывать, что советы могут быть ошибочными и привести к серьезным последствиям.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.

Внедрение искусственного интеллекта в повседневные занятия может быть полезным и интересным, однако крайне важно отдавать себе отчет в границах компетенций ИИ. Например, в медицине использование ИИ имеет серьезные ограничения: технология может помогать в диагностике, но окончательное решение должен принимать квалифицированный специалист. Подобное правило должно применяться и к другим областям, где ошибки могут стоить жизни.

В случае с грибами, здесь нужна особая осторожность. Как отмечают эксперты, обучение нейросетей для определения грибов остается сложным и не всегда точным процессом. Даже опытные грибники могут ошибиться, тогда как ИИ вообще опирается только на данные, которыми его обучали. Важно помнить,что система не видит реальные объекты, и все ее знания имеют виртуальную природу.

Одна из возможных альтернатив, чтобы улучшить этот процесс – развитие систем совместного разметки данных, где пользователи будут помогать обучать ИИ, внося свои экспертизы. Такой подход позволит значительно улучшить качество распознавания грибов искусственными нейронными сетями и создать более надежные инструменты помощи для людей.

Тем не менее, экспертам и пользователям следует помнить, что, несмотря на стремительное развитие технологий, текущий уровень ИИ все еще имеет свои пределы, и полагаться исключительно на него может быть опасно. Лучше всего использовать ИИ в качестве вспомогательного инструмента, но принимать окончательные решения вместе с экспертами-людьми.