Занимающаяся вопросами искусственного интеллекта Тимнит Гебру открывает независимый институт, передает The Washington Post.
Выдающаяся исследовательница, в прошлом работавшая в Google, намерена особое внимание уделить угрозам технологий для маргинальных групп.
Как стало известно, созданный Тимнит Гебру Научно-исследовательский институт искусственного интеллекта (DAIR) призван выявить и задокументировать вред, который может быть нанесен маргинальным группам. Они довольно часто сталкиваются с диспропорциональными последствиями работы искусственного интеллекта, но пока не имеют никаких рычагов давления на систему.
Предполагается, что ученые будут одновременно развивать искусственный интеллект в целях его позитивного влияния на маргинальные группы, отмечается в публикации The Washington Post. DIAR удалось создать с помощью пожертвований, которые поступали от Ford Foundation, Kapor Center, MacArthur Foundation, Open Society Foundation и the Rockefeller Foundation. Общая сумма средств составила около $3,7 млн.
Гебру считается одним из первопроходцев в исследованиях, которые связаны с предвзятым поведением технологий, распознающих лица темнокожих пользователей. В результате работы Гебру компания Amazon ранее была вынуждена внести ряд изменений в свою деятельность.
Год назад стало известно об увольнении Гебру из Google. По данным СМИ, причиной этого стали критические замечания ученого о прибыльном исследовании, которое проводила компания. Речь также шла о возможностях искусственного интеллекта, в частности, в области распознавания языковых моделей. Скандал в Google разразился, когда Тимнит Гебру смогла представить доказательства того, что имеющиеся алгоритмы лучше идентифицируют белых пользователей.
Напомним, ранее в США удовлетворили коллективный иск, который еще в 2015 году был подан жителями Иллинойса. Окружной судья США Джеймс Донато вынес решение об условиях урегулирования, согласно которому компания Facebook выплатит $650 млн из-за нарушений, связанных с применением системы распознавания лиц пользователей и других инструментов, предназначенных для обработки биометрических данных.
Вскоре после оформления искового заявления в Facebook была изменена система меток на фото, где ранее использовались технологии распознавания лиц. Но это решение не послужило основанием для прекращения судебного разбирательства.
Автор: Злата Богатова
Источник: