Microsoft займется отловом предвзятого ИИ

Microsoft займется отловом предвзятого ИИ

Microsoft — вот название еще одной компании, которая попытается обуздать алгоритмическую предвзятость. Ни для кого не секрет, что в последнее время искусственный интеллект все чаще выходит «поехавшим» и начинает нести чушь, отражая собственные предрассудки, предубеждения, предвзятость и несовершенство нашего общества. Компания хочет создать инструмент, который будет находить и предупреждать людей об алгоритмах ИИ, которые могут угрожать им.

Любопытно, что Microsoft, которая подает себя как компания, которая создает ИИ для объединения людей, присоединяется к рядам Google и Facebook, чтобы создать какой-нибудь инструмент для поиска «плохо воспитанного» искусственного интеллекта. Однако новый алгоритм Microsoft для поиска предвзятых алгоритмов сможет найти и пометить только существующие проблемы. А значит программы, которые могут привести к увеличению уровня предвзятости в полиции, например, все так же будут создавать и использовать, просто не так долго, как раньше.

Чтобы создать настоящий ИИ, который будет справедливым и рассудительным, нужно больше работать над внешним видом. Возможно, привлекать независимую проверку, чтобы технические компании привлекали внешних экспертов для анализа своих алгоритмов и поиска признаков предвзятости либо в самом коде, либо в данных, которые он обрабатывает.

Идея ревизии искусственного интеллекта набирает обороты, и некоторые компании по разработке ИИ начали привлекать аудиторов, которые могут взглянуть на их код. Но это также требует, чтобы ИИ был достаточно простым, либо чтобы аудитор хорошо разбирался в коде. В случае с более сложными алгоритмами глубокого обучения так не получится.

Другой возможный ответ — лучшая подготовка людей, которые фактически создают ИИ, чтобы они могли сами определять собственное мнение и предубеждение и держать их при себе, не позволяя алгоритму интерпретировать их как факт. У всех есть скрытые предубеждения, и мир технологий только выиграет от того, что поможет людям лучше понять их собственное мировоззрение.

Источник

  • Related Posts

    Тонеры

    подготавливают кожу к дальнейшему уходу, а также снимают покраснения и раздражения. Одним из самых эффективных и популярных средств для тонизации кожи являются тонеры. Тонеры — это жидкости, которые наносятся на…

    Такси в Вероне

    Верона – удивительный исторический город в Северной Италии, который привлекает множество туристов со всего мира своей богатой культурной и архитектурной наследием. Каждый гость, приезжающий в Верону, стремится не только насладиться…

    You Missed

    Сроки и расписание экзаменов 2024: подготовка, регистрация и перенос экзаменов

    • От SitesReady
    • 30 августа, 2025
    • 149 views

    Происхождение, стихия и даты знака зодиака Скорпион

    • От SitesReady
    • 29 августа, 2025
    • 44 views

    Коэффициент интеллекта (IQ): определение, методы измерения и роль в оценке умственных способностей

    • От SitesReady
    • 28 августа, 2025
    • 48 views

    Ангелина Изосимова в шоу Битва экстрасенсов: мистические таланты и сверхъестественные способности

    • От SitesReady
    • 27 августа, 2025
    • 50 views

    Как ввести знак градуса на клавиатуре Windows и Mac: способы и сочетания клавиш

    • От SitesReady
    • 27 августа, 2025
    • 52 views

    Причины возникновения и последствия исторических событий: анализ контекста, факторов развития и динамики процесса

    • От SitesReady
    • 27 августа, 2025
    • 57 views