Microsoft предсказала биологические угрозы «нулевого дня» из-за ИИ

Экспертам Microsoft при помощи искусственного интеллекта удалось обнаружить уязвимости «нулевого дня» в системах биологической безопасности, которые используются для предотвращения несанкционированного использования ДНК.

Источник изображения: digitale / unsplash.com

Эксперимент проводился полностью в цифровой среде: в реальности они не создавали ни одного токсичного белка, чтобы избежать подозрений, что компания разрабатывает биологическое оружие. Microsoft также заявила, что перед публикацией материалов исследования оповестила о нём власти США и производителей ПО, хотя некоторые разработанные ИИ-молекулы всё равно обходят эту защиту. В компании Integrated DNA Technologies, крупном производителе ДНК-материалов, заявили, что закрытие этих уязвимостей — это не разовая работа, а «начало дальнейших испытаний», и сравнили сложившуюся ситуацию с «гонкой вооружений». Чтобы гарантировать, что результаты исследования не будут использованы не по назначению, исследователи из Microsoft не стали раскрывать подробностей своей работы и не сообщили, какие белки они просили ИИ переработать.

Впрочем, есть мнение, что подобные точечные акции не помогут решить общую проблему, и лучшей защитой от злонамеренных действий было бы встроить средства защиты в сам ИИ — либо напрямую, либо посредством контроля над информацией, которую он выдаёт. Ещё более надёжным способом защиты является мониторинг самого синтеза генов на уровне производителя, потому что технологии ИИ становятся всё более распространёнными, и контролировать их труднее. «Этого джинна обратно в бутылку не загонишь. Если у тебя есть ресурсы, чтобы обманом попытаться заставить нас создать последовательность ДНК, ты, вероятно, сможешь и обучить большую языковую модель», — признают учёные.