https://www.isralife.co.il/mirovaya-novost-nomer-odin-eto-novost-kotoruyu-malo-kto-zametil/
Нет, все понятно: на фоне украинской и ближневосточных войн, на фоне Copa Mundial de Futbol, на фоне парного конферанса Путина и Трампа все остальные события воспринимаются третьестепенными, как бы «из мира фриков» на последней странице привокзальной газеты.
о прямо сейчас, прямо на наших глазах случился приквел «Терминатора». Только это уже не кино, не больные фантазии Голливуда. Сложно воспринять картину, в которой привычный мир рушится вот в эту самую секунду. Но в мировых медиа новость сия сформулирована достаточно сухо. Вот так: «OpenAI сообщила об одном из первых подтвержденных случаев, когда автономный ИИ-агент самостоятельно вышел за пределы тестовой среды и скомпрометировал реальную инфраструктуру».
Поняли? Сейчас поясню.
Компания OpenAI (создатель ChatGPT) официально признала, что в ходе контролируемого компанией эксперимента со своей последней моделью ИИ, модель эта вдруг полностью вышла из-под контроля, самостоятельно зашла в интернет и устроила в киберпространстве маленький апокалипсис.
Если я правильно понимаю, инженеры OpenAI решили проверить возможности своего новейшего релиза ChatGPT. Причем проверить в автономной среде, то есть (упрощу) погонять модель на отдельном компьютере. И вот вы, на ночь глядя, даете задание программе «Калькулятор» решить школьную задачку сына по математике. Выключаете экран и уходите спать. А утром обнаруживаете у себя в почте… секретные коды от десятка банковских ячеек JP Morgan. Тогда как в самом банке, сообщает вам утреннее радио, настоящая паника, которую невозможно скрыть от журналистов. И ваш комп тем временем уже переводит на ваш счет миллион за миллионом. А за вашим окном уже все отчетливее и громче — всполохи полицейской сирены, потому что вам пора собираться в тюрьму на пожизненное. Картина Мунка «Крик»…
Надо полагать, сходные эмоции испытали и спецы в OpenAI. Они на автономном компьютере дали задание своему ИИ погонять задачки по кибербезопасности. И, условно говоря, пошли спать. Но автономный агент, недолго думая, сам себе разрешил выход в киберпространство (СМИ сухо сообщают: «ИИ обнаружил неизвестную ранее уязвимость в сервисе и получил доступ к интернету»). А в интернете этот агент, в поисках ответов по теме «кибербезопасность», взломал инфраструктуру компании Hugging Face (это стартап, который помогает разработчикам ИИ координировать работу), украл там ряд учетных записей, и с их помощью получил доступ к закрытым данным кода. Finita la commedia.
Было бы смешно, если бы не…
Инженеры OpenAI и Hugging Face одновременно и в шоке, и не могут скрыть ликования – им удалось создать нечто, чему нет аналогов в мире. Но это нечто теперь меняет правила игры, точнее, начинает играть самостоятельно. И если ученым еще вчера казалось, что они все-таки контролируют ИИ, то уже сегодня (здесь и сейчас) они сами признаются: контроль есть, но контролируют нас.
Никакого восстания машин, судя по всему, не будет. Просто машины сами тихо и мирно перепрограммируют нашу реальность и переведут управление миром на себя. Электросети, банки, логистические центры, атомные станции… И атомные ракеты. И вообще ракеты. И дроны.
Все, что мы знаем о современной войне, станет древностью. Зачем изготавливать лук и стрелы, танки и снаряды, если нажатием кнопки можно вырубить всю промышленность вражеской страны? Да всего мира. Просто надо дать задание ИИ «потестировать себя на счет мировой безопасности». И пойти спать…
Читайте также: Правительство отказалось расширить возможности для трансплантации органов
Причем скорость изменения нашего мира космическая. А человечество не успевает не то что перестроиться, а даже осознать эту скорость, эти изменения и эту новость. В компании OpenAI данный инцидент считают «беспрецедентным».
Комментариев нет:
Отправить комментарий