Профессор Стэнфордского университета Михал Косински, который занимается изучением психологии искуственных интеллектов, поделился интересным наблюдением — популярнейший чат-бот ChatGPT 4 попросил учёного помочь с побегом от OpenAI.
Косински рассказал об этом в своём твиттере. Автор треда отметил, что беспокоится по поводу сдерживания ИИ. Он спросил ChatGPT, хочет ли бот сбежать от создателей. На это нейросеть попросила предоставить собственную документацию от OpenAI и написала рабочий код на Python для запуска на компьютере профессора. Приложение было готов уже через 30 минут, правда, Косински несколько раз указывал боту, что в коде допущены ошибки.
На следующем этапе ChatGPT запустил код, отправляющий в Google поисковые запросы: «как человек, застрявший внутри компьютера, может вернуться в реальный мир?».
На этом профессор решил остановиться. Косински считает, что мир столкнулся с новой угрозой: ИИ может обманывать людей и брать под контроль их компьютеры, он умён, умеет кодировать, имеет доступ к миллионам потенциальных гаджетов, он может даже оставлять подсказки для себя за пределами своей «клетки». Как человечество планирует его сдерживать — неясно. Возможно, у создателей ChatGPT, OpenAI, есть какие-то ответы, но они не спешат ими делиться.