Накануне увольнения гендиректора OpenAI Сэма Альтмана несколько сотрудников написали совету директоров письмо, предупреждающее о прорыве в области искусственного интеллекта, которое, по их словам, может угрожать человечеству — пишет Reuters со ссылкой на источники.
Проект под названием Q* (произносится как Q-Star) научился решать математические задачи. Пока на уровне начальной школы. Для непосвященного звучит не особо впечатляюще, но исследователи отмечают: математика — это передовой рубеж развития генеративного ИИ. В настоящее время генеративный ИИ хорошо умеет писать и переводить, но взятие математического рубежа означает, что ИИ получает способности к рассуждению, напоминающие человеческий интеллект. И в отличие от калькулятора, который может выполнять ограниченное количество операций, генеративный ИИ может обобщать, учиться и понимать.
В своем письме совету директоров исследователи отметили потенциальную опасность Q-Star.
Среди ученых уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины, например, если они могут решить, что уничтожение человечества отвечает их интересам.
Накануне было объявлено, что Сэм Альтман, уволенный с должности гендиректора OpenAI в прошлую пятницу, вернется на свой пост. Причиной его увольнения, по данным деловых СМИ, были в том числе опасения, что ИИ может выйти из-под контроля.