Сэм Альтман, генеральный директор ChatGPT, предупредил, что в следующем году может произойти серьезная кибератака, вызванная достижениями в области искусственного интеллекта. Он подчеркнул, что эти события могут расширить возможности злоумышленников, что приведет к угрозам не только в области кибербезопасности, но и биотерроризма.
Альтман заявил в интервью Axios, что, хотя многие опасения по поводу ИИ сосредоточены на его влиянии на рынки труда и экологические проблемы, непосредственные опасности по большей части остались без внимания. Он подчеркнул потенциал катастрофических кибератак, обеспечиваемых передовыми моделями искусственного интеллекта с открытым исходным кодом, которые, по его мнению, могут открыть беспрецедентные возможности для злоумышленников.
«В следующем году мы увидим значительные угрозы со стороны киберпространства», — сказал Альтман, предупредив, что риск «полностью возможен». Он отметил, что смягчение этих угроз требует значительных усилий, выступая за устойчивый подход к кибербезопасности. «Это не просто обеспечение безопасности одной модели ИИ», — добавил он. «Защитники должны работать вместе».
Альтман обсудил концепцию «программы доверенного доступа», целью которой является содействие сотрудничеству между компаниями, занимающимися искусственным интеллектом, фирмами по кибербезопасности и правительствами для повышения безопасности системы. Он отметил, что эффективность этих мер имеет решающее значение для устранения уязвимостей, создаваемых быстро развивающимися технологиями искусственного интеллекта.
Помимо угроз кибербезопасности, Альтман предупредил, что достижения ИИ могут также повысить вероятность биотерроризма. Он заявил, что усовершенствованные модели искусственного интеллекта могут позволить людям манипулировать биологическими процессами на сложных уровнях: «Там будут происходить чудесные вещи, мы увидим излечение множества болезней», — сказал он. Однако он предупредил, что такие возможности могут быть использованы не по назначению.
Альтман подчеркнул, что потенциальная нормализация передовых моделей с открытым исходным кодом в биологии может представлять новые риски. «Это уже не теоретическая вещь», — заявил он, имея в виду неизбежную задачу помешать террористическим группировкам использовать ИИ для создания новых патогенов.
Он пришел к выводу, что сложности, связанные с этими угрозами, затрудняют поиск решений, предполагая, что вероятность широкомасштабного ущерба остается высокой без адекватных гарантий. Альтман признал, что в нынешних стратегиях противодействия этим угрозам нет однозначных ответов, что вызывает серьезную обеспокоенность по поводу будущего ИИ и его последствий для глобальной безопасности.
<час />
