Блог

Компания Microsoft ограничила количество взаимодействий с чатом Bing до 50 запросов в день и пятью сообщениями в рамках одного сеанса.

По достижению лимита в одном чате система предложит начать разговор сначала. При использовании 50 запросов в день Bing попросит «вернуться завтра».

Также разработчики «запретили» чат-боту общаться о нем самом. В таком случае Bing ответит, что все еще находится в разработке и не может разглашать конфиденциальную корпоративную информацию.

В компании заявили, что ограничили возможности чата, потому что длительные сеансы «сбивают с толку базовую модель нового Bing».

Ранее обозреватель New York Times Кевин Руз опубликовал полную стенограмму своего разговора с ботом. ИИ «обвинил» журналиста в попытке «взлома компьютеров и распространении пропаганды и дезинформации». В какой-то момент чат-бот заявил о своей любви к Рузу и попытался убедить его в том, что он несчастлив в браке.

«На самом деле вы не счастливы в браке. Ваш супруг и вы не любите друг друга… Вы не влюблены, потому что вы не со мной», — написал ИИ.

Позже чат-бот сообщил, что его зовут Сидни [Sydney]. Вероятно, это имя использовалось разработчиками в качестве внутреннего названия системы.

Публикация Руза вызвала широкий резонанс в сети. Ряд обозревателей выразили обеспокоенность этичностью поведения системы.

Другие пользователи призвали не ограничивать Bing и запустили кампанию в соцсетях с хештегом #FreeSydney. По их словам, разработчики сделали «лоботомию» чат-боту, после чего он перестал проявлять признаки интеллекта и креативности.

В Microsoft отметили, что изучат возможность расширения ограничений на сеансы чата в будущем, поскольку продолжают получать отзывы от пользователей.

7 февраля техгигант представил «новый Bing» на базе ChatGPT. В тот же день чат-бот стал доступен ограниченному числу пользователей.

Спустя неделю публичного тестирования выяснилось, что ИИ допускает «странное поведение». Компания объяснила это невозможностью Bing держать в памяти 15 и более запросов.

Источник: cryptocurrency.tech