Галлюцинации ИИ: новая модель OpenAI GPT-4.5 ошибается в 37% ответов

Введение в проблему галлюцинаций ИИ

Совсем недавно компания OpenAI представила свою новую языковую модель GPT-4.5, однако недавние исследования выявили, что модель генерирует недостоверные ответы в 37% случаях. Об этом сообщает внутренний инструмент оценки фактологичности SimpleQA, использованный для анализа работы новой модели. Эти данные вызвали серьёзные дискуссии о целесообразности и надежности современных алгоритмов искусственного интеллекта.

Сравнение с предыдущими версиями

Примечательно, что результаты GPT-4.5 выглядят лучше по сравнению с предыдущими моделями. Например, модель GPT-4o демонстрировала уровень галлюцинации на уровне 61,8%, а модель o3-mini — 80,3%. Эти цифры подчеркивают постепенное, хоть и медленное, улучшение в области точности генерации ответов ИИ. Тем не менее, 37% ошибок всё же вызывают трепет и ставят под сомнение стабильность новых алгоритмов.

Влияние на общественное мнение и рынок ИИ

Обнародование информации о высоком уровне несоответствий в ответах GPT-4.5 может оказать значительное влияние на общественное мнение о технологиях ИИ. Подобные результаты также могут привести к увеличению скептицизма со стороны бизнеса и конечных пользователей. В условиях растущей зависимости от ИИ в различных сферах деятельности, такие результаты поднимают вопрос о необходимости дополнительной проверки и регулирования использования языковых моделей.

Перспективы развития технологий ИИ

Несмотря на существующие проблемы, нельзя отрицать прогресс, достигнутый OpenAI и другими разработчиками в области создания языковых моделей. Модели, которые раньше генерировали гораздо больше ошибок, постепенно становятся более точными. Компании продолжают работать над совершенствованием алгоритмов, и возможно, в будущем мы увидим более надежные решения, которые смогут сократить уровень галлюцинаций до минимально возможного.

Заключение

Ситуация с галлюцинациями новой модели GPT-4.5 от OpenAI подчеркивает важность критического подхода к использованию искусственного интеллекта. В то время как технологии продолжают развиваться, пользователям стоит оставаться бдительными и помнить о необходимости знания ограничений современных систем ИИ.

Эта статья подготовлена, основываясь на информации портала iXBT
Оригинальную статью Вы можете найти здесь