Искусственный интеллект в медицине: результат зависит от врача

В рамках очередного «Научного вторника» с  докладом об использовании искусственного интеллекта и технологий Big Data выступил  научный  сотрудник, к.м.н. Юрий Вячеславович Мареев. Отметив все более активное внедрение современных  технологий во все сферы  деятельности и науки, в том числе  и в медицину, он добавил, что этот процесс может  сопровождаться  некоторыми рисками.

Юрий Вячеславович  рассказал об этапах развития технологии искусственного интеллекта,  о постепенном переходе от  компьютерных  программ, запрограммированных автоматически решать  сложные задачи  и компьютеров, способных делать это уже  без специального  программирования к особым  алгоритмам, которые могут самообучаться, работая  с большими  массивами данных.

Технологии  нейросетей и глубинного обучения могут применяться сегодня  в лечебной деятельности, фармацевтике, в планировании государственных мер здравоохранения, частными клиниками, учеными при  формировании регистров пациентов и генетических регистров. Однако обработка информации происходит в условном «черном  ящике», а врач или исследователь, получающие конечный результат, не знают, как  именно система принимает решение.

Как отметил Ю.В. Мареев, алгоритмы искусственного интеллекта базируются на тех данных, которые в них закладываются. Применительно к лечебной  работе результат работы искусственного интеллекта будет зависеть от того, как врачи заполняют базы данных, кодируют  заболевания, ведут истории болезни  пациентов. И здесь может возникнуть риск  того, что ошибки в исходных данных не дадут возможности оптимизировать диагностику и лечение.

По словам докладчика, сегодня использование технологий  искусственного интеллекта сталкивается с  рядом проблем. Среди них – не полные и не точные данные; учет в работе алгоритма не клинических данных, а особенностей того лечебного учреждения, где они были собраны. К примеру, недавно был описан случай, когда алгоритм по выявлению пациентов с высоким риском развития пневмонии по данным рентгена легких разработанный в одной из клиник Нью-Йорка показал менее надежные результаты при использовании в других больницах. Анализ показал, что это было связано, что алгоритм учитывал марку переносного рентгеновского аппарата и ставил высокий риск тем пациентам, кому делали рентген в палате из-за тяжести их состояния.

Еще одной важной проблемой этих инноваций является малое количество рандомизированных исследований по проверке эффективности алгоритмов искусственного интеллекта и слабое регулирование этой сферы. К примеру, недавний систематический обзор в британском медицинском журнале, показал, что диагностические алгоритмы, используемые в мобильных приложениях для выявления рака кожи, не могут надежно определить все виды меланом и других видов рака.

Однако это вовсе не означает, что от внедрения искусственного интеллекта в медицину нужно отказаться. Просто при их разработке и проверке эффективности необходимо задействовать больше врачей, а не только программистов и специалистов по работе с данными и эффективность алгоритмов необходимо проверять в рандомизированных клинических исследованиях.