Команда Google по робототехнике DeepMind разработала революционную «Конституцию робота», встроенную в систему сбора данных AutoRT. Черпая вдохновение из знаменитых «Трех законов робототехники» Айзека Азимова, эта конституция действует как гарантия, гарантируя, что дроиды с искусственным интеллектом эффективно выполняют задачи и уделяют приоритетное внимание безопасности человека.
Так будет ли оно успешным? Давайте углубимся в тонкости этого инновационного подхода и выясним, действительно ли Конституция роботов Google может стать нашим щитом от зловещей угрозы, когда роботы вышли из-под контроля.
Что такое Конституция роботов Google и может ли она реально сохранить использование?
Robot Construction от Google — это сложная мера безопасности, интегрированная в систему сбора данных AutoRT, разработанная командой робототехники DeepMind. По своей сути эта конституция представляет собой набор подсказок, ориентированных на безопасность, вдохновленных этическими принципами, предложенными писателем-фантастом Айзеком Азимовым в его «Трех законах робототехники».
Быстрое напоминание: Три закона робототехники Айзека Азимова представляют собой набор этических принципов, разработанных для управления поведением искусственного интеллекта, подчеркивающих защиту людей и предотвращение вреда путем уделения приоритетного внимания соображениям безопасности и этики.
Система AutoRT использует модель визуального языка (VLM) и модель большого языка (LLM) для расширения возможностей дроидов с искусственным интеллектом по принятию решений. VLM обрабатывает визуальную информацию, позволяя роботам понимать свое окружение, а LLM интерпретирует эту информацию и предлагает роботу соответствующие задачи. Такой совместный подход позволяет роботу перемещаться в различных средах и сценариях с повышенной осведомленностью о потенциальных рисках.
В рамках AutoRT конституция робота выступает в качестве критического уровня защиты. Он дает инструкции LLM, предписывая ему избегать задач, которые могут потенциально нанести вред людям или животным, включать в себя острые предметы или взаимодействовать с электроприборами. Этот упреждающий подход согласуется с акцентом Азимова на приоритете безопасности человека и гарантирует, что дроиды ИИ будут действовать в рамках этических границ.
DeepMind включила в систему AutoRT дополнительные функции для дальнейшего повышения безопасности. Если сила, действующая на суставы робота, превышает заданный порог, система запрограммирована на автоматическую остановку, предотвращая возможные несчастные случаи или столкновения. Кроме того, предусмотрен физический аварийный выключатель, позволяющий операторам быстро деактивировать роботов в экстренных ситуациях, обеспечивая дополнительный уровень контроля и безопасности.
Обширное тестирование системы AutoRT в реальных условиях подчеркивает приверженность Google обеспечению безопасности. За семь месяцев парк из 53 роботов AutoRT был развернут в четырех различных офисных зданиях и прошел более 77 000 испытаний. Такой комплексный подход к тестированию гарантирует, что система AutoRT эффективна и способна адаптироваться к различным средам и сценариям.
Итак, может ли конституция роботов Google спасти нас от гибели от рук роботов? Это зависит. Разработка Конституции роботов Google в системе AutoRT является значительным шагом на пути к обеспечению безопасной интеграции ИИ в нашу повседневную жизнь, черпая вдохновение из этических принципов Азимова; однако ее эффективность в конечном итоге зависит от постоянного совершенствования и внедрения таких гарантий по мере развития технологий.
Конституция роботов Google — это новаторский шаг на пути к разработке ответственных и безопасных систем искусственного интеллекта. Объединив передовые визуальные и языковые модели с этическими принципами, вдохновленными принципами Азимова, Google стремится создать будущее, в котором дроиды с искусственным интеллектом смогут гармонично сосуществовать с людьми, отдавая приоритет безопасности и этическим соображениям.
Чтобы получить более подробную информацию, нажмите здесь и посетите официальное объявление.
Предоставленное изображение предоставлено: Эрай Элиачик/Бинг
