Свыше тысячи экспертов призвали приостановить обучение искусственного интеллекта, более мощного, нежели GPT-4. Среди подписантов открытого письма гендиректор SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк.
Авторы обращают внимание на то, что ИИ может представлять риск для человечества. Потому развитием новых технологий следует планомерно управлять.
«К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории искусственного интеллекта оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто – даже их создатели — не может понять, предсказать или надежно контролировать», — говорится в тексте.
Поскольку системы ИИ становятся все более конкурентоспособными с людьми, следует задаться вопросом, готово ли человечество автоматизировать все рабочие места, дать искусственному разуму взять верх. Разрабатывать технологии следует лишь с уверенностью в их положительном эффекте и управляемых рисках.
Потому авторы инициативы призывают взять полугодовую паузу. За это время лаборатории и эксперты должны совместно разработать общие протоколы безопасности. Это не означает паузы в развитии ИИ, а лишь отступление от опасной гонки технологий.
По мнению подписантов, необходимо сотрудничество с политиками, формирование компетентных регулирующих органов, создание системы отличий в продуктах, созданных человеком и ИИ. Государство должно обеспечить финансирование исследований в области безопасности технологий. Эксперты также должны разработать сценарии преодоления экономических и политических изменений, связанных с развитием ИИ.
Ранее искусственный интеллект сгенерировал последнее селфи в мире. На жутких кадрах изображены уродливые люди с длинными пальцами.
