Компания OpenAI — разработчик ChatGPT — готова снизить темпы разработки передовых систем искусственного интеллекта. Об этом пишет Bloomberg, ссылаясь на осведомленные источники.
По данным агентства, об этом заявил сам глава стартапа Сэм Альтман на общем собрании сотрудников. Он выразил надежду, что и другие разработчики нейросетей последуют такому примеру — хотя бизнесмен признал, что не все пойдут на такой шаг.
Об опасностях ИИ говорят едва ли не с момента появления даже не технологии — самой концепции искусственного интеллекта. Но в последние недели «паника» достигла пика. Сразу несколько исследователей и сотрудников ведущих компаний отрасли публично озвучили свои опасения относительно скорости, с которой развивается ИИ. Например, Джейкоб Коксон обвинил своих бывших работодателей — Anthropic и OpenAI — в том, что они «играют с человеческими жизнями» и уже в ближайшей перспективе нейросети смогут уничтожить человечество. А в конце июля более тысячи сотрудников компаний, работающих в сфере ИИ, подписали петицию с призывом создать механизм замедления темпов разработки искусственного интеллекта.
И у такой тревоги есть основания — агенты OpenAI уже вырывались из-под контроля во время тестов и начинали проводить хакерские атаки.