Дмитрий Медведев предупредил, что Запад игнорирует все основные риски ИИ
Изображение: grok
Заместитель председателя Совета безопасности России Дмитрий Медведев опубликовал в журнале «Эксперт» колонку о будущем технологий и возможных угрозах, связанных с быстрым развитием цифровых систем. В тексте он описывает, как новые ИИ-разработки способны изменить экономику, общество и политическую систему.
Дмитрий Медведев пишет, что нынешние международные конфликты со временем завершатся, а внимание государств постепенно сместится к технологическому соперничеству. По его мнению, человечество приближается к периоду, когда научные и технические открытия начнут менять жизнь быстрее, чем люди смогут привыкнуть к этим переменам.
Цифровая среда развивается очень быстро, а общество не всегда успевает понять последствия появления новых технологий. Дмитрий Медведев отмечает, что вычислительная техника стала доступнее, а крупные технологические компании накопили огромные массивы пользовательской информации. В результате интернет-платформы получают всё больше влияния на распространение данных и формирование общественного мнения.
Социальные платформы, по мнению Дмитрия Медведева, постепенно меняют восприятие окружающего мира. Изображения, публикации и сообщения в сети нередко воспринимаются людьми как более значимые, чем события реальной жизни.
Широкое внедрение искусственного интеллекта способно серьёзно изменить рынок труда. Дмитрий Медведев считает, что многие профессии со временем могут исчезнуть или существенно преобразиться, а автоматизация способна перестроить экономические модели разных стран.
Использование интеллектуальных систем для управления сложными объектами тоже связано с рисками. Примером названы промышленные предприятия, атомные электростанции и крупные производственные комплексы. Если алгоритм допустит ошибку, человеку может быть сложно определить причину сбоя.
Дмитрий Медведев допускает вероятность появления программ, которые смогут действовать самостоятельно и принимать решения без участия человека. При определённых условиях такие системы способны выполнять задачи автономно и принимать решения, опасные для людей.
Развитие обработки данных способно привести к созданию точных цифровых копий личности человека. Подобные цифровые двойники могут использоваться для кражи информации или введения людей в заблуждение.
Автоматизация вооружений, по мнению Дмитрия Медведева, может изменить отношение к применению силы. Управление оружием на расстоянии и использование автономных систем способны превратить нанесение ударов почти в процесс, напоминающий компьютерную игру.
