Пациенты все чаще используют искусственный интеллект для самодиагностики и выбора лечения, а врачи — как инструмент поддержки клинических решений. При этом технологии развиваются значительно быстрее, чем механизмы их контроля и регулирования. На этом фоне ключевым вопросом становится уже не скорость внедрения ИИ в здравоохранение, а пределы его безопасного применения. Эти риски стали одной из центральных тем XIV конгресса «Оргздрав-2026», где состоялась сессия «Не навреди: границы безопасности ИИ», модератором которой выступил сопредседатель Всероссийского союза пациентов Ян Власов.
Безопасность пациентов, ответственность за решения, принимаемые с использованием алгоритмов, и необходимость сохранения клинического контроля со стороны врача стали ключевыми темами дискуссии. Ее участники обсудили законопроект о государственном регулировании технологий искусственного интеллекта, в котором впервые вводится понятие «доверенного ИИ», а также закрепляются права граждан при использовании подобных технологий.
По словам Яна Власова, внедрение ИИ в здравоохранение нельзя рассматривать исключительно как технологический процесс — речь идет о сфере, где цена ошибки напрямую связана с жизнью и здоровьем человека. «Пациент должен понимать, когда в отношении него используется искусственный интеллект, иметь возможность отказаться от такого формата и знать, кто несет ответственность за последствия принятых решений. В медицине вопрос доверия к технологии становится не менее важным, чем ее эффективность», — отметил Власов.
Одной из ключевых тем дискуссии стало стремительное распространение генеративных моделей ИИ вне профессионального медицинского контура. Как отмечалось в ходе сессии, пациенты уже используют чат-боты и большие языковые модели для интерпретации симптомов, постановки диагнозов и самолечения, несмотря на отсутствие полноценного медицинского регулирования подобных сервисов. Особенно тревожной участники назвали ситуацию в сфере психического здоровья, где молодежь все чаще обращается к ИИ-системам за психологической поддержкой.
Отдельное внимание эксперты уделили риску «слепого доверия» к алгоритмам — как со стороны пациентов, так и со стороны врачей. В ходе обсуждения подчеркивалось, что широкое использование ИИ может постепенно ослаблять навыки самостоятельного анализа и критического мышления, а также менять саму культуру принятия клинических решений.
В обсуждении приняли участие генеральный директор ФГБУ «ВНИИИМТ» Росздравнадзора Игорь Иванов, руководитель лаборатории социальной и экономической психологии Института психологии РАН Тимофей Нестик, генеральный директор НМИЦ психиатрии и наркологии им. В.П. Сербского Светлана Шпорт и руководитель комитета МедТех НП «РУССОФТ» Глеб Тимофеев.
Итоговый вывод дискуссии: даже самые совершенные алгоритмы не способны заменить понимание пациента как человека — с его особенностями, образом жизни, мотивацией и психологическим состоянием. Именно поэтому искусственный интеллект в здравоохранении должен оставаться инструментом поддержки врача, а не самостоятельным субъектом принятия решений.
