Искусственный интеллект в медицине: результат зависит от врача
В рамках очередного «Научного вторника» с докладом об использовании искусственного интеллекта и технологий Big Data выступил научный сотрудник, к.м.н. Юрий Вячеславович Мареев. Отметив все более активное внедрение современных технологий во все сферы деятельности и науки, в том числе и в медицину, он добавил, что этот процесс может сопровождаться некоторыми рисками.
Юрий Вячеславович рассказал об этапах развития технологии искусственного интеллекта, о постепенном переходе от компьютерных программ, запрограммированных автоматически решать сложные задачи и компьютеров, способных делать это уже без специального программирования к особым алгоритмам, которые могут самообучаться, работая с большими массивами данных.
Технологии нейросетей и глубинного обучения могут применяться сегодня в лечебной деятельности, фармацевтике, в планировании государственных мер здравоохранения, частными клиниками, учеными при формировании регистров пациентов и генетических регистров. Однако обработка информации происходит в условном «черном ящике», а врач или исследователь, получающие конечный результат, не знают, как именно система принимает решение.
Как отметил Ю.В. Мареев, алгоритмы искусственного интеллекта базируются на тех данных, которые в них закладываются. Применительно к лечебной работе результат работы искусственного интеллекта будет зависеть от того, как врачи заполняют базы данных, кодируют заболевания, ведут истории болезни пациентов. И здесь может возникнуть риск того, что ошибки в исходных данных не дадут возможности оптимизировать диагностику и лечение.
По словам докладчика, сегодня использование технологий искусственного интеллекта сталкивается с рядом проблем. Среди них – не полные и не точные данные; учет в работе алгоритма не клинических данных, а особенностей того лечебного учреждения, где они были собраны. К примеру, недавно был описан случай, когда алгоритм по выявлению пациентов с высоким риском развития пневмонии по данным рентгена легких разработанный в одной из клиник Нью-Йорка показал менее надежные результаты при использовании в других больницах. Анализ показал, что это было связано, что алгоритм учитывал марку переносного рентгеновского аппарата и ставил высокий риск тем пациентам, кому делали рентген в палате из-за тяжести их состояния.
Еще одной важной проблемой этих инноваций является малое количество рандомизированных исследований по проверке эффективности алгоритмов искусственного интеллекта и слабое регулирование этой сферы. К примеру, недавний систематический обзор в британском медицинском журнале, показал, что диагностические алгоритмы, используемые в мобильных приложениях для выявления рака кожи, не могут надежно определить все виды меланом и других видов рака.
Однако это вовсе не означает, что от внедрения искусственного интеллекта в медицину нужно отказаться. Просто при их разработке и проверке эффективности необходимо задействовать больше врачей, а не только программистов и специалистов по работе с данными и эффективность алгоритмов необходимо проверять в рандомизированных клинических исследованиях.