Цифровые агенты в медицине: новые возможности и вызовы

Аннотация

Предметом данной статьи являются новые возможности и вызовы, к которым приво­дит широкое распространение цифровых агентов в медицине. Под «цифровыми аген­тами» понимаются все устройства с ИИ, нейронные сети, мобильные приложения, чат-боты, используемые для диагностики и мониторинга состояния пациента. Наряду с преимуществами их внедрения существует ряд рисков, провоцируемых утратой че­ловеческого фактора и недостатком регулирования новых технологий. В статье рас­сматриваются «этические ловушки», без устранения которых невозможно эффектив­ное внедрение цифровых агентов в здравоохранение. К ним относятся: предвзятость, галлюцинации и вредная информация, конфиденциальность и согласие субъекта дан­ных, а также прозрачность и объяснимость. Отмечено, что появляется все большее делегирование ИИ принятия решений о диагнозе и лечении, ограничивающее автоно­мию врачей в пользу предварительно заданных алгоритмов. Такой феномен «цифрово­го патернализма» влечет за собой утрату доверия к квалифицированным врачам. Кро­ме того, в статье анализируется проблема социального расслоения, вызванная как ограничением доступа к современным технологиям для определенных слоев населе­ния, так и созданием барьеров для людей, предпочитающих традиционные подходы к оказанию медицинской помощи. Делается вывод о необходимости тщательного об­суждения и разработки правил и нормативов для внедрения цифровых агентов в меди­цину, с учетом максимального уважения прав пациентов, сохранения человеческих от­ношений «врач–пациент» и этических ценностей.