Доверяй, но проверяй: компании не спешат использовать искусственный интеллект в своих бизнес-процессах

Несмотря на популярность и потенциал искусственного интеллекта (ИИ), компании относятся к технологии осторожно и не спешат использовать нейро­агентов в своих бизнес-процессах. Основная проблема – склонность языковых моделей к ошибкам. Решением может стать улучшение встроенных методов проверки, однако этот процесс требует значительных ресурсов.

На конференции DataConf Barnaul генеральный директор компании Estesis Яков Филин рассказал, сможем ли мы когда-нибудь полностью поверить в ответы нейросети.

От создания к улучшению

Сегодня, согласно статистике, которую привел Яков Филин, к помощи искусственного интеллекта прибегает малый процент топ-менеджеров компаний. 61 % руководителей признается, что использует ИИ-агентов только ради эксперимента, а 21 % опрошенных заявляет, что вовсе разуверился в возможности подыскать для технологии полезное практическое применение. Причина тому – склонность нейроассистентов к «галлюцинациям». Они могут обмануть, выдавая за правильный ответ грамотную по структуре ошибку.

– ИИ-агенты – это доминирующий тренд последних лет, который в 2025 году начал постепенно спадать. Если стандартная языковая модель помогает в решении бытовых задач, поиске и структурировании информации, то агенты должны заниматься этим автономно, – объясняет Филин.

Сегодня технология становится незаменимой в планировании, но доверить серьезные задачи ей пока нельзя. Поэтому акценты разработчиков смещаются с создания больших языковых моделей на их улучшение и оптимизацию.

– ИИ теперь может генерировать информацию со скоростью света, но мы забыли научить его проверять свою работу. В этом главный барьер масштабного внедрения, потому что не любая информация в Интернете релевантна (может использоваться для точного определения чего-либо. – Прим. авт.). Школьник, открыв учебник по физике, узнает больше, чем если изучит миллион страниц по этой теме в браузере. То есть продуктивность книги или десятка книг может быть выше продуктивности всего Интернета, – подчеркивает спикер.

Автономность невозможна без доверия

Последние годы языковым моделям «скармливали» непостижимое количество информации, и найти правильный ответ в этом объеме данных крайне тяжело. Мы достигли временного пика в развитии нейросетей, теперь надо учить их более детальному анализу. Однако сложность в том, что для многих задач не существует эталонных данных для автоматической проверки.

Можно быстро сгенерировать контент, но потратить на его анализ 90 % времени. При этом автономность невозможна без доверия.

– Создать по шаблону десять изображений, одно из которых будет хорошим, – это нетрудно. Куда тяжелее определить достоверность каждой единицы загружаемых данных. В идеале ИИ должен не просто выдавать последовательность слов, а понимать каждое сформулированное предложение, – поясняет предприниматель.

Причем нейроинтеллекту нужно не только распознавать набор шаблонов, но и научиться разделять каузальное и логическое мышление. С этим уже возникают проблемы.

Системный подход

Существует несколько путей решения. Во-первых, человеческий контроль никто не отменял, а в ряде сценариев полностью отказаться от такой экспертизы невозможно. Если проверять ответы нейросети человеком, особенно на критически важных этапах, то облегчит ли это работу и позволит сэкономить время?

Во-вторых, можно попытаться предоставлять ИИ доступ только к достоверным источникам информации. Либо визуализировать неопределенность, когда пользователь сможет видеть, насколько агент уверен в своем ответе.

Становится очевидно, что без внедрения механизмов проверки дальнейшее развитие технологии невозможно. Но за такой прогресс придется платить. Использование сложных верификаторов увеличит нагрузку на систему и снизит скорость ее работы, к тому же потребуются немалые вычислительные затраты. И даже при таких условиях сможем ли мы быть до конца уверены в результате?

– Будущее у нейросетей, безусловно, есть, просто нужно его дождаться, – считает Яков Филин. – Со временем ИИ превратится из стажера, за которым приходится проверять и переделывать работу, в полноценного компаньона. Но чтобы это произошло, должно появиться решение. Всю информацию в мире мы не проанализируем, поэтому речь не идет о супермодели, которая решит все наши задачи, а потом нас поработит. Создавать нужно сложную систему, где будут взаимодействовать и инструменты, и верификаторы, и даже человек, который в случае необходимости проверит работу и даст положительное заключение. Что будет дальше – увидим.