Алгоритмическое доверие было включено в пятерку самых громких развивающихся технологий, которые в следующие 5-10 лет должны перевернуть существующий рынок, по версии аналитической компании Gartner.
В своем заявлении вице-президент Gartner заявил, что считает все эти технологии в своей сути разрушительными, ведь они полностью переворачивают рынок и задают новые тренды развития.
Почему заговорили об алгоритмической модели доверия
Сообщество искусственного интеллекта недавно получило данные о том, что замена очных вступительных экзаменов в британские университеты на оценку, основанную на алгоритме, снизила результаты тестирования 40% студентов.
Все это повлекло за собой необходимость компаниям работать над сохранением конфиденциальности элементов рабочих процессов и моделей ИИ, пока подобные технологии полностью не разрушили представление о равноправии и отсутствии границ между этносами и национальностями.
Вице-президент по данным и развитию ТТ Солт-Лейк-Сити заявил, что компании должны на основании имеющихся данных понять, насколько этичными являются проводимые работы с ИИ, ведь искусственный интеллект не может быть предвзятым.
Важность алгоритмического доверия
Практически во всех организациях используются персональные данные для улучшения продуктов и услуг. Этика и справедливость — одно из основополагающих особенностей работы искусственного интеллекта, поэтому каждая его модель должна соответствовать этим принципам.
Но использование персональных данных неожиданно перенимает не только способы оценки, но и предубеждения в отношении пола, возраста и других определяющих личных данных.
Предвзятость — путь к пренебрежению всеми достижениями искусственного интеллекта. Если подобные ситуации продолжат повторяться, то это повлечет за собой отказ от ИИ. А если в мире появится независимый и справедливый алгоритм ИИ, то он не сможет себя реализовать в должной степени, пока не сменятся целые поколения.
Компании не могут полностью избавить свои модели искусственного интеллекта от чувствительных атрибутов, которые ищут значимые измерения, такие как экономия затрат или увеличение доходов, но им необходимо установить надлежащий баланс, учитывающий справедливость.
Поэтому следует внедрять в ИИ решения, позволяющие сохранять конфиденциальность и анонимность. Тогда подобные данные не станут причиной для искажения работы алгоритмов. Машинное обучение без доверия клиентов не может существовать, роботам во всех видах просто не будут доверять.
Получается, что современные популярные технологии искусственного интеллекта оказываются переоценены, а их результаты завышены. Но подобные размышления могут оказаться лишь шумихой, если организации начнут работать в сторону алгоритмического доверия.