Элон Маск обнародовал амбициозный и противоречивый план, чтобы принципиально изменить учебную парадигму для его модели искусственного интеллекта, Грока. Недовольный существующими наборами данных, которые лежат в основе современных систем ИИ, Musk намерен переучить Grok на недавно курируемой базе знаний. Эта инициатива выходит за рамки простого уточнения данных; Маск явно заявил о своем стремлении Грока «переписать весь корпус человеческих знаний, добавив недостающую информацию и удаляя ошибки», заявление, которое вызвало значительные дебаты и вызвало резкую критику со стороны различных секторов.
Согласно X Post, опубликованному Musk в субботу, предстоящая модель Grok 3.5, как ожидается, обладает возможностями «передовых рассуждений». Его видение этой улучшенной модели состоит в том, чтобы активно участвовать в создании «исправленной» исторической и фактической записи. Как только этот переписанный набор знаний будет завершен, модель Grok будет затем переподготовлена с использованием этих новых, предположительно более точных и всеобъемлющих данных. Обоснование Маск для этой радикальной меры проистекает из его веры в то, что «слишком много мусора» существует в основополагающих моделях ИИ, особенно тех, которые обучались «некорректированным данным». Эта перспектива подчеркивает глубоко укоренившуюся неудовлетворенность текущим состоянием целостности и точности данных ИИ.
Упательность Маск относительно качества данных обучения ИИ не является новой разработкой. В течение длительного периода он был вокальным критиком конкурирующих моделей ИИ, таких как CHATGPT Openai, компания, которую он особенно соучредил. Он последовательно утверждал, что эти модели демонстрируют неотъемлемые предубеждения и преднамеренно опускают информацию, которая считается «не политкорректной». Эта критика согласуется с более широким образцом в подходе Маск к технологии и распространению информации, где он последовательно стремится формировать продукты и платформы, чтобы быть свободными от того, что он воспринимает как вредную «политкорректность». Его заявленная цель состоит в том, чтобы сделать Грока «против пробудки», идеологической позиции, которая сформировала многие из его недавних предприятий.
Эта идеологическая мотивация также была очевидна в его приобретении и последующем управлении Twitter в 2022 году. После его поглощения мускус значительно ослабл, что политика модерации содержания и дезинформации платформы. Этот сдвиг привел к заметному увеличению распространения теорий заговора, экстремистского содержания и фальшивых новостей, некоторые из которых, по иронии судьбы, были усилены самим Маск. В попытке противодействовать потоку дезинформации, Маск представил функцию «Примечания сообщества» на X. Эта функция позволяет пользователям совместно разоблачить или добавлять контекстную информацию в потенциально вводящие в заблуждение сообщения, и эти заметки появляются на видном месте под оригинальным содержанием. Несмотря на то, что она предназначена для создания более точной информационной среды, эффективность и беспристрастность этой краудсорсинговой модерации остаются субъектами постоянного обсуждения.
Последнее предложение Маска о переподготовке Грока было встречено с немедленным и сильным осуждением со стороны различных экспертов и комментаторов. Гэри Маркус, известный основатель и профессор нейронной науки в Нью -Йоркском университете, яростно критиковал план Маск, сравнивая его с антиутопическим сценарием, обнаруженным в «1984. Джорджа Оруэлла». Маркус сформулировал свою заботу о X, заявив: «Прямо из 1984 года. Вы не могли заставить Грока соответствовать вашим личным убеждениям, чтобы вы переписали историю, чтобы соответствовать вашим взглядам». Это сравнение подчеркивает глубокую обеспокоенность тем, что инициатива Маск может привести к манипулятивной переосмыслению исторических фактов, чтобы соответствовать конкретной идеологической повестке дня, а не для объективного стремления к истине.
Дальнейшее добавление к хору критики Бернардино Сассоли де Бьянчи, профессора логики и научной философии в Университете Милана, выразил глубокую тревогу по намерениям Маск. В посте LinkedIn де Бьянчи заявил, что он «не хватает слов, чтобы прокомментировать, насколько опасен» план Маск. Он уточнил потенциальные последствия, утверждая: «Когда могущественные миллиардеры рассматривают историю как податливую просто потому, что результаты не соответствуют их убеждениям, мы больше не имеем дело с инновациями – мы сталкиваемся с повествовательным контролем». Сильные слова Бьянчи подчеркивают страх, что такое начинание может в корне подорвать целостность исторического понимания и позволить навязывать конкретное мировоззрение. Он заключил, подчеркнув этическое нарушение, присущее плану: «Переписывание данных обучения в соответствии с идеологией неправильно на каждом мыслимом уровне».
Усугубляя противоречие, призыв Маск для пользователей X внести «разделительные факты», чтобы помочь в переподготовке Грока, принесло результаты. Маск специально запросил факты, которые «политически неверны, но, тем не менее, фактически верны». Тем не менее, ответы на это открытое приглашение в значительной степени состояло из широкого спектра теорий заговора и полностью разоблаченных экстремистских претензий. Эти представления включали в себя случаи искажения Холокоста, дискредитированную дезинформацию вакцины, псевдонаучные претензии, способствующие расистским идеологиям, касающихся интеллекта и отрицания изменения климата. Этот результат поднимает серьезные вопросы о целесообразности краудсорсинга «исправленной» базы знаний, особенно когда критерии включения, по -видимому, приглашают и легитимизируют полость или явно ложные повествования. Сама природа полученных вкладов говорит о том, что методология Маск может непреднамеренно усилить самого «мусора» и «некорректных данных», которые он намеревает, что приводит к потенциально более предвзятой и неточной модели ИИ, а не к исправлению.
Source: План Musk’s Grok AI Sparks вызывает проблемы целостности данных
