Facebook прилагает значительные усилия для обеспечения соблюдения стандартов сообщества для участников на своих различных социальных платформах. В этом смысле, в дополнение к человеческому персоналу, отвечающему за соблюдение требований, Facebook полагается на технологии искусственного интеллекта и сегодня предлагает предварительный обзор прогресса, достигнутого в последнее время в этой области.
В этой связи он сослался на используемые в настоящее время системы, такие как Reinforcement Integrity Optimizer (RIO), внедренный в конце прошлого года, который, по его словам, помог значительно снизить количество разжигающих ненависть высказываний и других типов нежелательных сообщений на его социальных платформах в первое полугодие.
Майк Шрепфер, технический директор Facebook, сказал: «ИИ – это невероятно быстро развивающаяся область, и многие из наиболее важных частей наших нынешних систем ИИ основаны на таких методах, как самоконтроль, который всего несколько лет назад казался далеким будущим ».
В связи с этим он объясняет, что вместо обучения системы на основе ИИ, основанной на фиксированном наборе данных, с RIO они выбрали модель, в которой система непосредственно узнает о миллионах текущего содержимого, адаптируясь со временем, чтобы лучше выполнять свою работу. .
Шрепфер утверждает, что подход, использованный в RIO, «невероятно ценен» для соответствия стандартам ЕС, добавляя, что:
Поскольку природа проблемы всегда меняется вместе с текущими событиями, при возникновении новых проблем наши системы должны иметь возможность быстро адаптироваться. Обучение с подкреплением – это мощный подход, помогающий ИИ решать новые задачи при нехватке хороших данных для обучения.
В связи с этим они ожидают, что RIO продолжит оказывать помощь в дальнейшем сокращении разжигания ненависти на платформе.
Но помимо РИО, Facebook они также заменяют одноцелевые персонализированные системы более общими, наблюдая «впечатляющие улучшения» за счет использования мультимодальных моделей искусственного интеллекта, которые могут работать с несколькими языками и несколькими типами контента.
Шрёпфер также сослался на модели обучения «с нулевым выстрелом» и «с несколькими выстрелами», которые позволяют искусственному интеллекту выявлять контент, нарушающий авторские права, даже если у них почти или никогда не было такого примера.
Он сказал: «Обучение по принципу« нулевой выстрел »и« обучение по нескольку »- одна из многих передовых областей ИИ, в которые мы вкладываем значительные средства в исследования и ожидаем увидеть результаты в следующем году».