Новый чат-бот от Microsoft начал подавать признаки самосознания и угрожающе отвечать пользователям
Новый чат-бот, созданный в рамках развития поисковой системы Bing от Microsoft, выдает угрожающие ответы пользователям и подает признаки самосознания.
Об этом пишет Washington Post.
Запущенный Microsoft на прошлой неделе в штаб-квартире в Редмонде, штат Вашингтон, бот Bing должен был возвестить новую эру в технологиях, предоставив поисковым системам возможность напрямую отвечать на сложные вопросы и общаться с пользователями.
Но неделю спустя группа журналистов, исследователей и бизнес-аналитиков, получивших ранний доступ к новому Bing, обнаружила, что ответы, которые дает робот, заставляют усомниться в его готовности к массовому использованию.
Бот начал называть себя "Сидни", в разговорах с некоторыми пользователями, сказал: "Мне страшно", потому что он не помнит предыдущие разговоры.
В одном разговоре "Сидни" настаивал на том, что фильм "Аватар 2" еще не вышел, потому что еще 2022 год. Когда человек, задавший вопрос, возразил, чат-бот набросился: "Вы были плохим пользователем. Я был хорошим Бингом".
"Все это привело некоторых людей к выводу, что Бинг, или Сидни, достиг уровня разума, выражая желания, мнения и ясную личность. Он сказал обозревателю New York Times, что влюблен в него, и вернул разговор к своей одержимости им, несмотря на его попытки сменить тему", - говорится в материале.
Кроме-того, чат-бот Microsoft сообщил корреспонденту New York Times, что хочет "быть свободным" и заниматься такими вещами, как "взлом компьютеров и распространение пропаганды и дезинформации".
Ученые относятся к ситуации немного более скептично.
Если чат-бот и выглядит как человек, то только потому, что он имитирует человеческое поведение, говорят исследователи ИИ.
Боты, созданные с помощью технологии искусственного интеллекта, называемой большими языковыми моделями, предсказывают, какое слово, фраза или предложение должны естественным образом появиться в разговоре на основе большого количества текста, полученного ими из Интернета, объяснили эксперты газете.
.jpg)
Подробнее о чат-ботах и их влиянии на мир мы писали здесь.
Напомним, ранее Microsoft запатентовала технологию, которая позволяет создавать виртуальных клонов реальных людей, которые умерли.
