Глава OpenAI Сэм Альтман выступил на заседании Совбеза ООН. Он заявил, что технологии ИИ развиваются быстрее, чем человечество успевает их контролировать.
Он также заявил, что на данный момент институты власти попросту не справляются с темпами прогресса. Альтман считает, что системы становятся слишком мощными и автономными. Самая большая опасность, по его словам, заключается в самообучении нейросетей.
«Системы ИИ становятся более мощными и автономными, они могут развиваться быстрее, чем наши институты. Риск заключается в том, что все происходит так быстро, что люди больше не могут следить за происходящим или вмешиваться в случае необходимости», — сказал он.
Автоматизация разработки кода может спровоцировать слишком резкий скачок в развитии нейросетей. Люди могут потерять возможность влиять на работу алгоритмов, уточнил он. При этом генсек ООН также высказывался о рисках утраты контроля над системами.
Читать по теме: В России стали защищать интернет от выходящих из-под контроля нейросетей.
