6 способов создания искусственного интеллекта, сочетающего честность, разнообразие и этику

ИИ способен трансформировать отрасли, но он также может распространять предубеждения, если он не спроектирован, разработан и внедрен с учетом этических норм. Ватсал Гия, генеральный директор и соучредитель Shaip, перечисляет несколько важных шагов, которые помогут обеспечить соответствие ваших инициатив в области ИИ этическим стандартам.

Мы все видели, что происходит, когда разработка ИИ идет наперекосяк. Рассмотрим попытку Amazon создать систему приема на работу с ИИ, которая была отличным способом сканировать резюме и определять наиболее квалифицированных кандидатов - при условии, что эти кандидаты были мужчинами. Когда специалисты по обработке данных воспроизвели существующие методы найма в компании, они невольно повторили (и автоматизировали) и ее предубеждения. С тех пор они свернули проект, но он остается мощным напоминанием о силе ИИ в увеличении предвзятости и нанесении вреда определенным группам.

Технологические лидеры в Facebook сделали то же самое, когда компания позволила рекламодателям ориентироваться на целевую аудиторию по полу, расе и религии - всем защищенным классам, согласно Конституции США. Алгоритм показывал работу медсестер в основном женщинам, объявления о вакансиях уборщика - мужчинам из групп меньшинств и ограничивал рекламу недвижимости для аудитории, состоящей в основном из белых людей. Facebook рассматривал алгоритм как первый шаг в непрерывном процессе разработки. Министерство жилищного строительства и городского развития США ответило иском.

По мере того, как все больше таких случаев становится заголовками, как потребители, так и компании все больше опасаются силы искусственного интеллекта. Технология может трансформировать отрасли, автоматизировать рутинные задачи и улучшать жизнь людей, но она также может распространять предубеждения и усиливать дискриминацию, если ее дизайн, разработка и внедрение не включают целостность, разнообразие и этику. Чтобы ваши собственные инициативы в области ИИ соответствовали этическим стандартам, выполните следующие важные шаги:

Узнать больше: Никакие технологии кода не помогают компаниям адаптироваться к новым реалиям

1. Определите этический ИИ
Чтобы сделать этику приоритетной в ИИ, вам нужно конкретное и действенное определение этического ИИ, под которым могут подписаться все соответствующие заинтересованные стороны. Четкое определение будет служить экраном, позволяющим быстро отфильтровать, что способствует достижению вашей цели, а что нет. При формулировании определения учитывайте прозрачность данных, важность разнообразия и целостность данных, которые используются в ваших решениях для искусственного интеллекта или машинного обучения.

2. Встраивайте этику в развитие
Если в ваших продуктах об этике уделяется второстепенное внимание, они никогда не будут соответствовать значимым стандартам этического ИИ. Вы должны встроить этичный ИИ в структуру разработки продукта . Найдите время для постоянного анализа процесса, который поможет учесть последние передовые практики и нормативные требования.

3. Создайте многофункциональные экспертные группы.
Проектирование, разработка и развертывание ответственного машинного обучения и искусственного интеллекта требует участия экспертов на каждом из этих этапов. Когда команда состоит исключительно из одной группы заинтересованных сторон, они, скорее всего, будут отдавать приоритет своим собственным потребностям за счет других. Например, в некоторой степени однородная команда разработчиков, разрабатывающая инструмент найма для обработки резюме, может неосознанно отдавать приоритет людям с аналогичным опытом и уровнем образования, что вносит предвзятость в инструмент. Благодаря участию экспертов по проектированию и развертыванию вы получите больше мнений, которые помогут адаптировать решение без ущерба для этических целей.

Узнать больше: 7 факторов, указывающих на наличие у вашей организации проблемы с теневым кодом

4. Сотрудничайте с клиентами.
Заказчики могут знать, чего они надеются достичь с помощью ИИ, но они могут совершенно игнорировать этику в ИИ . Сотрудничайте с клиентами, чтобы убедиться, что они видят решения, в которых этика ставится во главу угла в дополнение к другим бизнес-результатам.

5. Будьте прозрачны
Алгоритмы машинного обучения могут быть невероятно сложными, и, хотя вам не нужно раскрывать секрет своей компании всем, вы должны быть максимально прозрачными в отношении того, какие данные используются, как они используются и для каких целей. Клиентам, возможно, не нужно знать все технические детали, но они должны знать ингредиенты вашего рецепта искусственного интеллекта - и как и почему эти ингредиенты объединяются.

6. Расширьте возможности своих сотрудников
Сотрудники не должны руководствоваться только бизнес-целями, иначе они будут вынуждены разрабатывать решения, в которых приоритет отдается прибыли в ущерб этике. Некоторые известные имена уже совершили эту ошибку, и в некоторых случаях их репутации был нанесен непоправимый ущерб. Вместо этого дайте возможность своим сотрудникам разрабатывать ответственные продукты, которые позитивно отражают мотивы и ценности вашей компании.

Узнать больше: процессы обработки данных и аналитики нуждаются в новом подходе, чтобы помочь бизнесу процветать

После долгих лет медленной эволюции повсеместное распространение вычислительной мощности и данных привело к прорыву в области искусственного интеллекта, и технологические лидеры и специалисты по обработке данных готовы создать новое поколение решений для бесчисленных проблем. При этом важно, чтобы они уделяли приоритетное внимание этике, включая целостность, разнообразие и прозрачность данных, чтобы создавать инструменты, которые выдерживают испытание временем.