Система правосудия, банки и частные компании используют алгоритмы для принятия решений, которые имеют огромное влияние на жизнь людей. К сожалению, эти алгоритмы иногда бывают необъективными - непропорционально сильно влияют на цветных людей, а также на лиц с низкими доходами, когда они обращаются за ссудой или работой, или даже когда суды решают, какой залог должен быть установлен, пока человек ожидает суда.
Исследователи Массачусетского технологического института разработали новый язык программирования искусственного интеллекта, который может оценивать справедливость алгоритмов более точно и быстрее, чем доступные альтернативы.
Их вероятностный язык сумм-произведений (SPPL) представляет собой систему вероятностного программирования. Вероятностное программирование - это новая область на пересечении языков программирования и искусственного интеллекта, цель которой - упростить разработку систем искусственного интеллекта, с ранними успехами в области компьютерного зрения, очистки данных на основе здравого смысла и автоматического моделирования данных. Вероятностные языки программирования значительно упрощают программистам определение вероятностных моделей и выполнение вероятностных выводов, то есть работу в обратном направлении для вывода вероятных объяснений наблюдаемых данных.
Существуют предыдущие системы, которые могут решать различные вопросы справедливости. Наша система не первая; но поскольку наша система специализирована и оптимизирована для определенного класса моделей, она может предоставлять решения в тысячи раз быстрее.
SPPL дает быстрые и точные решения на вопросы вероятностного вывода, такие как «Насколько вероятно, что модель порекомендует ссуду кому-то старше 40 лет?» или «Сформируйте 1,000 соискателей синтетической ссуды в возрасте до 30 лет, ссуды которых будут одобрены». Эти результаты вывода основаны на программах SPPL, которые кодируют вероятностные модели того, какие типы кандидатов являются вероятными, априори, а также как их классифицировать. Вопросы справедливости, на которые SPPL может ответить, включают: «Есть ли разница между вероятностью рекомендации ссуды иммигранту и неиммигранту с одинаковым социально-экономическим статусом?» или «Какова вероятность найма, учитывая, что кандидат соответствует требованиям для работы и из недостаточно представленной группы?»
SPPL отличается от большинства вероятностных языков программирования, поскольку SPPL позволяет пользователям писать только вероятностные программы, для которых он может автоматически предоставлять точные результаты вероятностного вывода. SPPL также позволяет пользователям проверять, насколько быстрым будет вывод, и, следовательно, избегать написания медленных программ. Напротив, другие вероятностные языки программирования, такие как Gen и Pyro, позволяют пользователям писать вероятностные программы, в которых единственные известные способы сделать вывод являются приблизительными, то есть результаты включают ошибки, характер и величину которых трудно охарактеризовать.
Ошибка приближенного вероятностного вывода допустима во многих приложениях ИИ. Но нежелательно иметь ошибки вывода, искажающие результаты в социально значимых приложениях ИИ, таких как автоматическое принятие решений, и особенно в анализе справедливости.
SPPL позволяет избежать ошибок, ограничиваясь тщательно разработанным классом моделей, который по-прежнему включает широкий класс алгоритмов искусственного интеллекта, включая классификаторы дерева решений, которые широко используются для алгоритмического принятия решений. SPPL работает путем компиляции вероятностных программ в специализированную структуру данных, называемую «выражением суммы-произведения». SPPL также основывается на возникающей теме использования вероятностных схем в качестве представления, обеспечивающего эффективный вероятностный вывод. Этот подход расширяет предыдущие работы по сетям сумм-произведений на модели и запросы, выраженные с помощью вероятностного языка программирования. Однако Саад отмечает, что этот подход имеет ограничения: «SPPL значительно быстрее, например, для анализа справедливости дерева решений, но он не может анализировать такие модели, как нейронные сети. Другие системы могут анализировать как нейронные сети, так и деревья решений, но они, как правило, медленнее и дают неточные ответы ».
SPPL показывает, что точный вероятностный вывод является практическим, а не только теоретически возможным для широкого класса вероятностных программ. В моей лаборатории мы наблюдали повышение скорости и точности символьного вывода в других задачах вывода, к которым мы ранее подходили с помощью приближенного метода Монте-Карло и глубокое обучение алгоритмы. Мы также применяем SPPL к вероятностным программам, извлеченным из реальных баз данных, для количественной оценки вероятности редких событий, генерации синтетических прокси-данных с учетом ограничений и автоматического скрининга данных на предмет возможных аномалий.
-
electronica India и Productronica India вместе с MatDispens перенесены на 16–18 декабря 2021 г.
-
Honda запускает новый электрический скутер U-GO
-
Колоды одобрены для Assam State Electronics Development Corporation Limited для высокоскоростного подключения к Интернету
-
Запуск спутника геоизображения «EOS-03» запланирован на третий квартал 2021 года.
Маянк Вашишт
-
Маянк Вашиштhttps://www.eletimes.com/author/mayankvashishtРешения Anritsu для измерений для связи 5G NR на выставке Anritsu Test and Measurement Web Expo - весна 2021 г.
-
Маянк Вашиштhttps://www.eletimes.com/author/mayankvashishtAI и ML откроют новый уровень в игре Chip Design
-
Маянк Вашиштhttps://www.eletimes.com/author/mayankvashishtОбщий искусственный интеллект (AGI) и гипотеза реальной экзистенциальной угрозы
-
Маянк Вашиштhttps://www.eletimes.com/author/mayankvashishtРасширенная реальность, стирающая границы между воображением и реальностью