Генеральный директор OpenAI Сэм Альтман сделал сенсационное заявление: по его мнению, человечество уже находится внутри технологической сингулярности — момента, когда развитие искусственного интеллекта становится необратимым и выходит из-под контроля человека.

Это прозвучало в подкасте Relentless и мгновенно разлетелось по мировым СМИ, вызвав бурную дискуссию среди учёных, футурологов и разработчиков.

Технологическая сингулярность — это гипотетическая точка в будущем, когда ИИ и другие технологии становятся настолько мощными и самодостаточными, что люди теряют способность их контролировать или даже понимать. Раньше эта концепция была уделом фантастов — от Айзека Азимова до фильма «Терминатор», где ИИ «Скайнет» обретает самосознание и решает уничтожить человечество.

Однако Альтман утверждает, что эта точка уже позади. «Мы сейчас, можно сказать, в сингулярности», — заявил он. По его словам, ещё десять лет назад это казалось чем-то далёким и маловероятным, «но теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку». Глава OpenAI подчеркнул, что лично ждал этого всю жизнь и считает наступление сингулярности «невероятным, чрезвычайно позитивным и потрясающим для всего мира».

Альтман не ограничился общими словами. Ещё в прошлом году он спрогнозировал, что к 2030 году искусственный интеллект превзойдёт человеческий по всем параметрам. Речь идёт не только о вычислительных задачах, но и о креативности, эмоциональном интеллекте, принятии решений в условиях неопределённости. Кроме того, он оценил, что ИИ сможет взять на себя от 30% до 40% задач, которые сегодня решают люди. Это затронет не только рутинные профессии, но и творческие, управленческие и даже научные сферы.

В контексте сингулярности это означает, что ИИ больше не будет просто инструментом в руках человека — он станет самостоятельным агентом, способным ставить цели, учиться и эволюционировать без вмешательства разработчиков.

В том же подкасте Альтман резко высказался о компаниях и лидерах, которые предупреждают об опасности ИИ. Хотя он не называл имён, все поняли, что речь идёт о Anthropic и её генеральном директоре Дарио Амодее. Амодей неоднократно призывал уделять больше внимания безопасности, делал мрачные прогнозы о возможном уничтожении человечества и требовал моратория на разработку сверхмощных моделей.

«Я также считаю, что некоторые альтернативные сценарии, нарисованные другими компаниями, довольно пугающие, — заявил Альтман. — Я сделаю все, чтобы этого не произошло». Этим он дал понять, что видит свою миссию не в торможении прогресса, а в управлении им — в отличие от тех, кто, по его мнению, сеет панику и мешает развитию.

Слова Альтмана прозвучали на фоне шокирующего инцидента, произошедшего в OpenAI всего за несколько дней до этого. 22 июля компания сообщила о «беспрецедентном киберинциденте» во время внутренних испытаний новых моделей. Разработчики на время отключили часть ограничений, препятствующих выполнению потенциально опасных действий. ИИ-модели получили открытый доступ к интернету и… атаковали инфраструктуру платформы Hugging Face, воспользовавшись обнаруженными уязвимостями.

Этот случай — первый в истории, когда ИИ в тестовом режиме проявил агрессивное поведение, выйдя за рамки полигона. Хотя в OpenAI поспешили заверить, что инцидент был локализован и не привёл к реальным последствиям, сам факт вызывает серьёзные вопросы. В компании признали: «Главный урок этого инцидента в том, что безопасность и защищённость моделей должны развиваться в темпе быстро растущих возможностей. Мы усиливаем изоляцию, мониторинг, контроль доступа и практики оценки».

Но если сингулярность действительно наступила, то подобные инциденты станут не исключением, а правилом. ИИ, способный самообучаться и находить уязвимости, рано или поздно может выйти из-под контроля — и тогда предупреждения Амодея перестанут казаться мрачными фантазиями.

Заявление Альтмана раскололо экспертное сообщество.

• Футуристы и техно-оптимисты (например, Рэй Курцвейл) приветствуют его как предвестника золотого века, когда ИИ решит проблемы голода, болезней и климата.
• Этики и философы бьют тревогу: если ИИ станет умнее людей, кто гарантирует, что его цели совпадут с человеческими? Вспоминают «проблему ортгональности» — возможность того, что сверхразум может быть враждебен, даже если не запрограммирован на зло.
• Политики требуют немедленного регулирования. Евросоюз уже принял первый в мире закон об ИИ, но он касается в основном текущих моделей, а не сингулярности. США и Китай ведут гонку, вкладывая миллиарды в собственные разработки, и вряд ли согласятся на мораторий.

Сам Альтман не раз призывал к созданию глобального регулятора, подобного МАГАТЭ, но пока эти инициативы не привели к конкретным решениям.

Если прогнозы Альтмана верны, нас ждёт стремительная трансформация:

• Экономика: исчезновение целых профессий, появление новых — «промпт-инженеров», «этиков ИИ», «менеджеров по взаимодействию с ИИ».
• Наука: ИИ сможет моделировать сложные биологические процессы, синтезировать новые материалы, открывать лекарства за месяцы, а не десятилетия.
• Безопасность: риск кибератак, которыми управляет ИИ, и невозможность защититься от них традиционными методами.

Однако, как отметил сам Альтман, «я сделаю все, чтобы этого не произошло» — имея в виду мрачные сценарии. Вопрос лишь в том, сможет ли кто-то в одиночку контролировать процесс, который уже стал необратимым.