В сценическом повороте, напоминающем “Я, Робот”, как раз перед уходом генерального директора OpenAI Сэма Альтмана, группа сотрудников написала письмо совету директоров, предупреждая о создании искусственного интеллекта, который может представлять угрозу человечеству, согласно источникам, знакомым с ситуацией, как сообщает Reuters.
Официально OpenAI отказалась комментировать, но во внутреннем сообщении признала наличие проекта под названием Q, как сообщил один из источников. Внутри OpenAI некоторые считают, что Q (произносится как Q-Star) может стать прорывом в поиске Искусственного Общего Интеллекта (AGI). AGI, по терминам OpenAI, означает автономные системы, превосходящие человека в большинстве экономически ценных задач.
Несмотря на то, что Q* в настоящее время способен решать только задачи математики начальной школы, модель продемонстрировала успех в их решении, как сообщил источник. Несмотря на простоту задач, умение Q* успешно справляться с ними наполняет исследователей оптимизмом относительно будущего успеха проекта.
Раскрываем AGI: Математический Рубеж
Исследователи утверждают, что математика стоит на передовой развития генеративного искусственного интеллекта. В настоящее время генеративный искусственный интеллект отлично справляется с задачами, такими как написание и перевод, но предсказания для следующего слова могут значительно различаться. Однако внедрение математических способностей подразумевает, что искусственный интеллект может обладать продвинутыми способностями к рассуждению, подобными человеческому интеллекту. Это развитие обещает применение в новых научных исследованиях, считают исследователи в области искусственного интеллекта. В отличие от калькулятора, ограниченного определенными операциями, AGI может обобщать, учиться и понимать.
В своем письме совету директоров исследователи подчеркнули как мощь, так и потенциальную опасность искусственного интеллекта. Среди компьютерных ученых уже давно ведутся дискуссии о том, какую опасность представляют высокоинтеллектуальные машины, особенно если они могут решить, что уничтожение человечества соответствует их интересам.
Через один день после получения письма совет уволил Альтмана. Недавно стало известно, что он вернется на пост генерального директора OpenAI после скандального увольнения.
Пока Q* продолжает развиваться, мир смешанно наблюдает в предвкушении и опасении, размышляя о том, насколько тонка грань между научной фантастикой и реальностью. Кажется, будущее действительно наступило, призывая к осторожности, как в предостерегающих историях о искусственном интеллекте, изображенных в фильмах “Я, Робот”.
