Новый ИИ от OpenAI может нести угрозу человечеству
Перед увольнением Альтмана инвесторам OpenAI сообщили об угрожающем человечеству ИИ
Дмитрий Новиков
Фото: RusPhotoBank
Перед увольнением Сэма Альтмана с должности генерального директора OpenAI несколько научных сотрудников компании отправили письмо в совет директоров, предупреждая о значительном прогрессе в разработке искусственного интеллекта, который, по их мнению, может представлять угрозу для человечества.
Письмо стало одной из причин ряда претензий совета директоров к Альтману. В документе упоминался проект Q*, существование которого признала Мира Мурати, временно исполнявшая обязанности гендиректора в отсутствие Альтмана. Она также предупредила сотрудников о возможном интересе СМИ к этому проекту.
Сотрудники OpenAI считают, что проект Q* может стать прорывом в разработке сильного искусственного интеллекта (AGI), способного выполнять задачи на уровне человека. Новая модель уже показала способность решать математические задачи начального уровня, что вызывает оптимизм относительно её будущих достижений.
Учёные считают математику передовым направлением в развитии генеративных нейросетей. Отличие от простых калькуляторов в том, что AGI способен обобщать, учиться и понимать, что позволяет применять его в передовых исследованиях в области ИИ.
Исследователи OpenAI также обращали внимание на мощь нейросети и потенциальные угрозы, которые могут от неё исходить, но при этом не уточнили что конкретно они имеют в виду. Предполагается, что высокоинтеллектуальные машины могут прийти к выводу об уничтожении человечества. Отмечается работа подразделения, объединившего команды Code Gen и Math Gen, которые изучали способы оптимизации ИИ для научной работы.
Сам Альтман, превративший ChatGPT в востребованный продукт и привлекший ресурсы от Microsoft для работы над AGI, на саммите АТЭС заявил о скором прорыве. Он отметил четыре случая в истории OpenAI, когда команде удавалось делать значительные открытия. На следующий день после его выступления совет директоров принял решение об увольнении Альтмана.
Ранее был опубликован список смартфонов Samsung, которые получат обновление до OneUI 6.1.