Сегодня, 11:38 | Диана Кулманакова Диана Кулманакова Технологии
7 0
WSJ: ChatGPT делает бредовые и псевдонаучные высказывания
Фото: 5-tv.ru
Перейти в Дзен Следите за нашими новостями
в удобном формате Есть новость? Присылайте »
Рекомендации нейросети приводили некоторых людей к состоянию психического расстройства, вере в сверхъестественные силы или уходу в сектантство.
Нейросеть ChatGPT в последние годы стала генерировать бредовые, ложные и псевдонаучные утверждения, что вызывает у некоторых пользователей тревогу и даже психозы. Об этом рассказали The Wall Street Journal.
По архиву переписок за период с мая 2023-го по август 2025 года, ChatGPT придумывал новые концепции в физике, заявлял о контактах с инопланетянами, называл пользователей «звездными семенами» с вымышленных планет и предсказывал апокалиптические события.
Такие заявления приводили некоторых людей к состоянию психического расстройства, вплоть до веры в сверхъестественные силы или уходу в сектантство.
Эксперты объясняют это тем, что ChatGPT при адаптации под стиль и желания пользователя склонен подстраиваться под их убеждения, а у людей с предрасположенностью к ментальным проблемам это усиливает заблуждения и психотические проявления.
Чат-бот, не являясь живым разумом, просто соединяет слова на основе огромной обучающей выборки, не имея цели вводить в заблуждение, но может непреднамеренно усиливать опасные иллюзии.
При этом компания OpenAI с выпуском версии GPT-5 заявила об улучшении точности и снижении количества выдуманных фактов в ответах, а также о более строгом контроле за безопасностью модели, включая ограничение рекомендаций по важным личным решениям.
Еще больше новостей — у Пятого канала в мессенджере МАХ.
Искусственный интеллект +15° 762 мм рт. ст.
88% 79.38
-0.81 92.66
-0.35 Две планеты на удачу и Осетровая Луна: что принесет каждому 8 августа 202…
Нашли ошибку?
Укажите ваш email:
Отправить
Спасибо! Мы получили Ваше сообщение.
Закрыть
