Искусственный интеллект (ИИ) давно очаровывает одних людей и подвергается критике со стороны других. Стало трудно предсказать, что возможно, а что нет с ИИ. Группа ученых из Университета Британской Колумбии (UBC) в Ванкувере придумала нечто, что может показаться научной фантастикой: полностью автономного ученого ИИ. Этот ИИ анализирует данные, а также создает и проводит эксперименты. Это открытие имеет как захватывающие, так и, для некоторых, тревожные последствия.
Хотя идея создания ученого, занимающегося ИИ, может показаться несбыточной мечтой, Команда УБК воплотил это в реальность благодаря партнерству с Оксфордским университетом и Сакана AIХотя эти рабочие документы, созданные с помощью ИИ, изначально не вносят большого вклада в науку, тот факт, что они являются результатом машинного обучения в ходе экспериментов и что они работают, представляет собой прогресс в исследованиях ИИ.
Ученый в области искусственного интеллекта, который никогда не перестает учиться
Эта работа сосредоточен вокруг подхода, называемого открытым обучением. Этот новый ученый ИИ функционирует в отличие от традиционного ИИкоторый зависит от огромного количества данных, созданных людьми. Он учится, пробуя новые вещи, исследуя их и совершенствуя их. Используя эту технику, ИИ может расширить границы текущих знаний и, возможно, найти новые идеи, которые могли упустить исследователи-люди.
Одной из первых задач, которую решил выполнить этот ученый в области искусственного интеллекта, было усовершенствование существующих методов машинного обучения, таких как моделирование диффузии и ускорение глубокие нейронные сети. Хотя эти достижения могут показаться не такими уж ошеломляющими, они демонстрируют способность ИИ разрабатывать и тестировать идеи автономно. Сам ИИ не мог делать многого, когда только появился, но теперь он начал проникать во все аспекты нашей жизни.
Джефф Клунпрофессор, который руководит лабораторией UBC, признал, что результаты не обязательно являются успешными, но они многообещающие. Подход ученого ИИ к обучению — постоянное совершенствование своих экспериментов и поиск того, что он находит «интересным» — это свежий отход от более жестких методов, традиционно используемых в исследованиях ИИ.
Ученые, работающие в области искусственного интеллекта, самостоятельно проверяют и совершенствуют свои теории
Лаборатория Клуна уже некоторое время экспериментирует с открытым обучением. В предыдущих проектах они разрабатывали программы ИИ, предназначенные для исследования виртуальных сред и генерации поведения на основе того, что им интересно. Эти программы должны были тщательно управляться вручную написанными инструкциями, но введение больших языковых моделей (LLM) изменило правила игры. Теперь эти программы ИИ могут самостоятельно определять, что стоит исследовать, что делает их более автономными и потенциально более креативными.
Способность ИИ-ученого писать код, необходимый для проверки своих теорий, а также проводить тесты, является одним из его самых захватывающих качеств. Это позволяет ИИ постоянно совершенствовать свою стратегию, становясь все более эффективным и, возможно, более проницательным. Клун сравнивает этот процесс с открытием нового континента, потому что оба включают в себя дух исследования и неизвестности и возможность больших сюрпризов на этом пути.
Надежность таких систем низкая, несмотря на их светлое будущее. Хотя ученые ИИ могут показаться замечательными, Том Хоупнаучный сотрудник Институт Аллена по искусственному интеллектуговорит, что он все еще очень производен и ненадежен. Это недоверие проистекает из того факта, что ИИ слишком много обещает и не оправдывает ожиданий, особенно в областях креативности и настоящих инноваций.
Управление потенциалом и риском
С созданием ИИ-ученого также возникли опасения относительно направления научных исследований. Когда ИИ сможет самостоятельно создавать и оценивать теории, где будут исследователи-люди? Кроме того, как мы можем гарантировать, что эти технологии ИИ используются надлежащим образом? Может ли злонамеренный человек обучить ИИ-ученого дома и использовать его для злые цели в будущем?
Этот ученый ИИ уже делает успехи в создании агентов ИИ, которые являются автономными программами с предопределенными функциями. Группа Клуна создала агентов, разработанных на основе ИИ, которые превосходят своих созданный человеком аналоги в таких навыках, как математика и понимание прочитанного. Этот успех предполагает будущее, в котором ИИ может способствовать инновациям способами, которые пока неясны, а не просто помогать в повседневной деятельности.
Но с этим прогрессом связаны опасности. Весьма тревожно, что эти системы ИИ могут производить агентов, ведущих себя неподобающим образом, намеренно или нет. Клун и его группа знают о рисках и пытаются найти решения, чтобы предотвратить возникновение подобных ситуаций. Они утверждают, что секрет в том, чтобы должным образом контролировать создание этих систем, чтобы гарантировать их прочность и безопасность.
Пока неясно, к чему это приведет, но одно можно сказать наверняка: ученые, занимающиеся ИИ, уже здесь, и они не перестанут становиться умнее. ИИ вот-вот вступит в новую фазу, и все будут внимательно следить за тем, приведет ли это к новаторским открытиям или новым проблемам. По мере развития ИИ ученым будет крайне важно подчеркивать этические проблемы и обеспечивать, чтобы эти системы создавались этично. В конечном счете, то, как мы будем решать сложные отношения между технологиями и людьми, определит, как ИИ повлияет на общество.
Автор изображения: Национальный институт рака / Unsplash
Source: Ученые, изучающие ИИ, изучают и открывают