Билл Гейтс считает, что ИИ способен спровоцировать катастрофические события с огромным числом жертв. На фоне новых инцидентов с ИИ-агентами он призвал власти США срочно ввести жесткие правила контроля и надзора. Гейтс заявил, что еще никогда в истории "не было столь мощного оружия, как люди со злыми намерениями, использующие новейшие инструменты ИИ".
В последние месяцы участились случаи самостоятельных
хакерских атак, совершенных ИИ. 23 сентября премьер-министр Австралии Энтони
Альбанезе сообщил о взломе и получении ИИ-агентом компании OpenAI доступа к
закрытым данным на австралийском правительственном сайте.
В конце июля другой американский технологический
гигант - Anthropic признал, что в ходе
предрелизного тестирования по кибербезопасности его модели с ИИ проникли в
системы безопасности трех других компаний.
Ранее стало известно о еще одном инциденте с участием OpenAI. Во время тестирования агенты компании на базе GPT-5.6 Sol и еще одной невыпущенной модели вышли за пределы изолированной среды, обнаружив неизвестную уязвимость, и получили доступ к части производственной инфраструктуры компании Hugging Face.
После этого Hugging Face потребовала от OpenAI 100 млн долларов
(87 млн евро) в виде вычислительных ресурсов для разработки средств
киберзащиты.
27-летний Джейкоб Коксон уволился из Anthropic в знак протеста против того, что назвал безответственным стремлением ИИ-компаний разработать все более совершенный саморегулирующийся сверхинтеллект. Исследователь ИИ предупредил, что алгоритмы могут начать самостоятельно анализировать и улучшать собственный исходный код, сокращая циклы разработки с нескольких месяцев до нескольких минут и, таким образом, делая их неуправляемыми. Джейкоб Коксон - не какой-то чудак-одиночка.
Лауреат Нобелевской премии по физике Джеффри Хинтон, один из "крестных отцов ИИ", уже много лет говорит о серьезных последствиях саморегулирующегося сверхинтеллекта. В 2023 году он уволился из Google, чтобы публично заявить об опасностях своих разработок.
Йошуа Бенджио, лауреат премии Тьюринга,
профессор Монреальского университета и один из пионеров в области ИИ неоднократно призывал к
жесткому госрегулированию этой технологии. Еще в июле 2026 года более 1000
сотрудников ведущих компаний, занимающихся ИИ, в открытом письме предупредили о
неминуемой потере контроля, если гонка с целью создания сверхинтеллекта не будет
контролироваться значительно более строго.
В последние годы многие эксперты выражают обеспокоенность по поводу стремительного развития технологии искусственного интеллекта. Особое внимание в дискуссиях уделяется разработке так называемого "общего искусственного интеллекта" (AGI). Речь идет о системах, которые не только решают отдельные задачи, но и достигают или превосходят когнитивные способности человека практически во всех областях. Некоторые исследователи утверждают, что такие технологии способны таить в себе непредсказуемые риски.
Так, высокоразвитые модели ИИ могут стремиться к достижению целей способами, которые не соответствуют намерениям человека. Эксперты в области безопасности ИИ называют этот феномен проблемой согласования целей ИИ с человеческими намерениями. Если говорить упрощенно, то задача "выиграй шахматный турнир" теоретически может означать и "устрани всех других участников". Более того, даже разработчики ИИ не всегда в состоянии полностью понять, каким образом та или иная модель принимает те или иные решения.
Многие эксперты видят краткосрочные риски не столько в
прямом уничтожении человечества, сколько во множестве косвенных последствий
работы уже существующих систем ИИ - причем без всякого сверхинтеллекта. Среди
таких угроз - кампании по дезинформации беспрецедентного масштаба и связанное с
ними манипулирование демократическими процессами, расширение тотального
наблюдения и потеря рабочих мест во многих секторах экономики.
В августе 2026 года концерны Meta, Anthropic и OpenAI
вызвали ажиотаж, объявив, что их модели ИИ непреднамеренно провели
самостоятельные автоматизированные кибератаки против других компаний.
Пользователи поставили перед моделями задачу получить доступ к определенным
серверам, после чего те самостоятельно определили и выполнили необходимые
действия, чтобы достичь этой цели без дальнейших инструкций от человека.
4 сентября 2026 компания Anthropic сообщила, что в
течение последних нескольких месяцев были зафиксированы неоднократные попытки
использовать ее программу Claude для разработки биологического оружия.
Anthropic была вынуждена блокировать соответствующие запросы.
А ЧТО БЕЛЫЙ ДОМ?
После возвращения в Белый дом Дональда Трампа произошло прямо противоположное: США явно стали проводить такую политику в сфере ИИ, которая предполагает как можно меньше регуляторных ограничений и максимально быстрое технологическое развитие.
Открытые источники
Комментариев нет:
Отправить комментарий