Индекс «этичности» систем искусственного интеллекта в медицине: от теории к практике

Аннотация

В статье представлена методика – «Индекс “этичности” систем искусственного интел­лекта», задача разработки которой заключалась в оценке реальных и потенциальных рисков этического характера, возникающих на всех этапах жизненного цикла ИИ-си­стем. Сама система никакой «этичностью» не обладает, тогда как социально приемле­мыми, с моральной точки зрения допустимыми и необходимыми, могут быть действия разработчиков и поставщиков данных в процессе ее проектирования и обучения, а также операторов и потребителей в ходе ее пилотирования и внедрения. Ряд вопро­сов, связанных, например, с конфиденциальностью персональных данных, отчасти ре­гулируется актуальным законодательством, тогда как большая часть этических рисков лишь прогнозируется. Представленная методика разработана: для целей медицинского сообщества, нуждающегося в подтверждении моральной состоятельности и соответ­ствия профессиональным стандартам внедрения новейших технологий в клиниче­скую практику; в качестве инструмента, который может быть использован в деятель­ности этических комиссий по аналогии с биоэтическими комитетами при согласова­нии соответствующих медицинских исследований с участием ИИ; как дополнение к процедурам добровольной технической сертификации, а также в судебно-медицин­ской экспертизе. В «Индексе» отражены наиболее острые этические проблемы – до­верия, распределенной ответственности, конфиденциальности данных, прозрачности и объяснимости ИИ-моделей, справедливости и недискриминации, обсуждаемые в со­временной этике в связи с рисками развития ИИ. Уникальность «Индекса» заключает­ся в лежащем в его основе междисциплинарном подходе, включающем в себя методо­логию «дизайна ценностей» и «полевое» социологическое исследование, позволившее совместить теоретические гуманитарные подходы к пониманию содержания ключе­вых моральных понятий с их трактовкой в профессиональной медицинской этике. Это делает «Индекс» не только интересным с теоретической точки зрения как способ фор­мализации этических категорий, но и полезным с практической точки зрения – как пример прикладного значения этики и использования ее инструментария для решения социально значимых задач.