По словам Сэма Альтман, системы могут научиться улучшать собственные будущие версии, что резко ускорит развитие технологии
Искусственный интеллект может развиваться быстрее, чем государства и международные институты успеют наладить его контроль, предупредил глава OpenAI Сэм Альтман на заседании Совета Безопасности ООН. О его выступлении пишет Reuters.
Особую осторожность, по словам Альтмана, требует приближение к системам, способным улучшать себя и создавать более совершенные версии. Если разработка ИИ станет автоматизированной, темпы его развития могут резко вырасти.
Глава OpenAI также указал, что более автономные системы могут принимать решения, которые люди перестанут понимать или контролировать. Еще один названный им риск — сосредоточение власти у ограниченного круга разработчиков.
«Если ИИ должен быть демократичным, важнейшие решения не могут приниматься только лабораториями в Сан-Франциско», — заключил Альтман.
По его словам, такие решения должны приниматься через демократические процедуры с участием правительств, подотчетных гражданам.
Источник: BFM.ru · Василий Осипов