В своем первом выступлении перед Конгрессом Альтман во вторник предстал перед судебным подкомитетом Сената. Он подчеркнул важность принятия законодателями руководящих принципов и правил безопасности для ИИ, чтобы «снизить риски все более мощных моделей».
«Мы понимаем, что многие обеспокоены тем, как это может изменить нашу жизнь. Так и есть», — добавил Альтман. Эта технология»может пойти не так, если что-то пойдет не так“.
В ходе почти трехчасового слушания Альтман и два других свидетеля — почетный профессор Гэри Маркус и Кристина Монтгомери, директор IBM по вопросам конфиденциальности и доверия — обсудили потенциальные риски, связанные с непроверенным ИИ, с почти 60 законодателями, начиная от предотвращение кражи интеллектуальной собственности.
Меня больше всего беспокоит то, что мы причиняем вред миру, заметил он.
Генеральный директор призывает к подходу «не навреди» в разработке ИИ
Альтман призвал политиков принять схему лицензирования для предприятий, создающих мощные системы искусственного интеллекта, как одно действие. Чтобы выдать корпорациям лицензию, законодатели должны установить ряд требований безопасности, и если эти требования не будут соблюдены, они будут иметь право отозвать лицензию.
Что касается будущего беспокойства о том, как ИИ изменит ландшафт занятости, Альтман согласился с тем, что многие рабочие места могут быть устранены из-за технологий. Тем не менее он не считает, что это исключает создание дополнительных рабочих мест.
Он утверждал, что «я думаю [AI] может полностью автоматизировать некоторые рабочие места». И будут созданы новые, которые, как мы думаем, будут намного лучше.
Технологические миллиардеры, как Илон Маск в открытом письме в марте попросил шестимесячный перерыв в работе с ИИ. Во вторник Альтман начал с того, что заявил, что «форма письма неверна» и что важны проверки и критерии безопасности, которые необходимо пройти, прежде чем обучать технологии. Сенатор Джош Хоули спросил свидетелей о письме. «Если мы сделаем паузу на шесть месяцев, я не уверен, что мы будем делать тогда, мы сделаем паузу еще на шесть?» он сказал.
Действия правительства по ИИ остаются неопределенными, и впереди «трудные решения»
Альтман сказал, что бизнесу потребовалось более шести месяцев, чтобы раскрыть GPT4 широкой публике, прежде чем OpenAI развернула его и что компания «хочет войти» направление стандартов, которые OpenAI создал и использовал перед развертыванием технологии, а не «пауза календарных часов».
Сенатор Ричард Блюменталь, председатель комиссии, присоединился к обсуждению и заявил, что введение моратория и «засовывание головы в песок» не являются действенными решениями. Он сказал: «Охрана и меры предосторожности, да, но плоский знак «Стоп»? Мир не будет ждать. Это меня бы очень обеспокоило.
В своем заключительном слове Блюменталь подчеркнул, что, хотя необходимо будет принять «жесткие решения», на данный момент предприятия, создающие ИИ, должны занять позицию «не навреди». Неясно, какие шаги предпримет правительство в отношении ИИ, если таковые будут.
Вас интересует собственный капитал ChatGPT и то, как OpenAI зарабатывает деньги?
Source: Генеральный директор OpenAI выступает против шестимесячной паузы в разработке ИИ
