Хотя искусственный интеллект развивается быстро, кажется, что у системы распознавания изображений Google все еще есть проблема, существующая уже восемь лет: успешное обнаружение изображений горилл.
Когда инженер-программист Джеки Альсине обнаружил, что его фотография с приятелем была ошибочно идентифицирована как гориллы алгоритмом распознавания изображений, который был включен в приложение «Фотографии» в 2015 году, компания подверглась резкой критике. Оба Альсине и его компаньон Черный. Google пришел в ужас и быстро исправил расистскую ошибку, запретив программе маркировать фотографии горилл.
Проблема все еще не была должным образом исправлена восемь лет спустя. Пользователи могли искать свои изображения по различным видам животных, таким как кошки и кенгуру, но не по гориллам, бабуинам, шимпанзе, орангутанам или обезьянам. Эксперимент Нью-Йорк Таймс.
Изображения приматов до сих пор не помечены в Фото приложение. Неясно, не может ли корпорация решить проблему или внедрение этой функции будет слишком спорным или опасным. Интересно, что ошибка также затронула программное обеспечение Microsoft для хранения данных OneDrive и Приложение Apple Photoхотя АмазонкаФото часто ошибочно идентифицировали других животных как горилл.
Альсине выразил разочарование тем, что Google до сих пор не решил проблему. Я никогда не буду доверять этому ИИ, сказал он.
OpenAI продвигает демократический контроль AGI
Некоммерческое подразделение OpenAI пообещало выделить в общей сложности 1 миллион долларов тем, у кого есть новаторские предложения о том, как создать демократическую систему, которая позволила бы обычным людям влиять на развитие ИИ.
До 2 июня любой желающий может представить свои предложения. Десять лучших работ будут выбраны стартапом AI, который затем наградит каждого победителя $100 000 чтобы они могли приступить к разработке прототипов своих концепций.
На этой неделе OpenAI заявил в своем блоге, что «AGI должен приносить пользу всему человечеству и должен быть максимально инклюзивным». «Эта программа награждения запускается как первый шаг в этом направлении. Мы ищем команды со всего мира для создания доказательств концепции демократической процедуры, которая может решить проблемы, связанные с нормами, которые должны соблюдать системы ИИ.
Согласно OpenAI, гранты являются экспериментами, и компания может или не может использовать любую из концепций. Компанию привлекают подходы, которые поощряют обратную связь от широкого круга людей по вопросам, которые не всегда лучше всего решать, придерживаясь буквы закона.
«Например, учитывая, что различные группы имеют разные точки зрения на общественных деятелей, при каких обстоятельствах системы ИИ должны осуждать или критиковать таких людей?
Как должны отражаться расходящиеся мнения в результатах ИИ? Должен ли ИИ представлять личность среднего человека на земном шаре, нацию пользователя, его демографию или что-то совершенно другое по умолчанию? В нем говорится, что никто, бизнес или страна не должны иметь права выносить такие суждения.
Компания Anthropic привлекла 450 миллионов долларов в рамках инвестиций серии C.
Anthropic, бизнес в области искусственного интеллекта, частично созданный бывшими сотрудниками OpenAI, получил 450 миллионов долларов в своем последнем раунде финансирования, инициатором которого выступила Spark Capital.
Google, Salesforce Ventures, Sound Ventures, Zoom Ventures и другие инвесторы поддерживают инвестиции серии C. Claude, обширная языковая модель Anthropic, используется для регистрации новых потребителей. В соответствии с Генеральный директор Дарио Амодеисредства будут использованы для разработки дальнейших предметов.
«Мы рады, что эти уважаемые инвесторы и технологические фирмы помогают Anthropic проводить исследования в области искусственного интеллекта и разрабатывать решения, повышающие безопасность. Решения, которые мы разрабатываем, предназначены для предоставления надежных услуг ИИ, которые принесут пользу потребителям и компаниям как сегодня, так и в будущем.
Anthropic заявила, что ее цель состояла в том, чтобы создавать более безопасные товары, используя методы выравнивания ИИ, чтобы заставить своего чат-бота следовать инструкциям и давать приемлемые ответы. Недавно компания увеличила количество токенов, поддерживаемых контекстным окном Claude, до 100 000, что позволило анализировать сотни страниц документов одновременно.
Хотите знать, как зарегистрироваться в поисковой системе Google AI?
Source: Проблемы Google с распознаванием изображений: гориллы по-прежнему представляют проблему
