Более тысячи экспертов в области высоких технологий и искусственного интеллекта подписали открытое письмо с призывом приостановить на полгода обучение систем ИИ, «более мощных, чем GPT-4» — самой популярной и продвинутой на сегодняшний день нейросети такого характера.
Среди подписантов — исследователи из DeepMind, Гарварда, Оксфорда и Кембриджа. А также куда более медийные личности: Илон Маск, сооснователь Apple Стив Возняк, филантроп Эндрю Янг, соучредитель Pinterest Эван Шарп и многие другие.
Все они считают, что ИИ несет серьезные риски для общества и человечества. По их мнению, мощные системы искусственного интеллекта следует разрабатывать только будучи уверенными, что эффекты будут положительными.
За те полгода, на которые будет взята пауза, авторы письма предлагают разработать общие протоколы безопасности. Это необходимо делать совместно с властями государств, нужно формировать компетентные регулирующие органы и придумать системы отличий в продуктах, созданных человеком и искусственным интеллектом.