Искусственный интеллект и научная медицина
By: Date: Categories: Медицина


Происходит несколько тихая технологическая революция, которая может изменить нашу медицину. Инструменты узкого искусственного интеллекта (ИИ) становятся все более мощными и разрабатываются для множества медицинских приложений. Пришло время хорошенько подумать о том, как эти инструменты разрабатываются и развертываются.

Под ИИ понимается компьютерное программное обеспечение и оборудование, предназначенное не только для хранения и обработки данных, но и для их анализа с использованием одного из различных процессов, которые могут находить закономерности и учиться в процессе. Узкий ИИ включает машинное обучение, глубокое обучение и нейронные сети. Он не включает в себя то, что многие люди могут подумать, когда слышат ИИ; это не разумный или самосознающий компьютер – это вообще ИИ. За последние несколько десятилетий мы узнали, что узкий ИИ намного более эффективен, чем мы предполагали, и может делать многие из вещей, которые, как мы думали, потребуется обычному ИИ. Самый известный ИИ теперь может побеждать лучших мастеров шахмат. Это уже даже не конкурс.

Медицина, возможно, является идеальной ареной для искусственного интеллекта, который хорошо учится самостоятельно просеивать огромные объемы данных, чтобы делать прогнозы. Прямо сейчас врачи-люди делают это с помощью экстремальной подготовки и интуиции, основанной на обширном опыте, в сочетании с аналитическими оценками, основанными на опубликованных данных и алгоритмах. Это сложно, и объем данных, используемых даже для принятия единственного медицинского решения, может быть огромным, что требует от врачей все большей специализации, чтобы не отставать от все более узкой области. Есть около 2 миллиона научных статей публикуется с каждым годом и растет. ИИ тоже может помочь с этой проблемой – публикация слишком большого количества статей слишком низкого качества. Но даже при значительном улучшении процесса рецензирования и публикации объем останется огромным.

Речь идет не о том, чтобы ИИ заменил врачей, а о том, чтобы стать незаменимым инструментом для врачей и медицинских работников. Используя узкие инструменты ИИ, можно просмотреть научную литературу, чтобы не только найти все соответствующие доказательства, но и определить, насколько они предсказуемы. ИИ может находить в данных закономерности, которые люди не заметят или интуитивно не сочтут актуальными, но это может быть очень предсказуемым.

Это было бы одновременно огромной возможностью и огромным риском. Один из рисков связан с непредвиденными последствиями. Это выходит за рамки проблемы «мусор на входе – мусор на выходе» и заключается в создании алгоритмов искусственного интеллекта, которые усиливают непредвиденные и отрицательные результаты. Это похоже на алгоритмы YouTube, создающие теоретиков заговора – не обязательно цель, но это произошло. Но это также может быть очень хорошим делом, если все сделано правильно, и даже укрепить научно обоснованную медицинскую практику. SBM принципы должны быть заложены в алгоритмы ИИ с самого начала. С надеждой, SBM принципы спонтанно появятся в результате использования ИИ для изучения литературы. Это по сути то, что SBM is – просмотр всех доказательств, чтобы увидеть, какие закономерности наиболее предсказывают безопасность и эффективность.

Фактически, один из аспектов SBM пытается разубедить наших коллег относительно распространенных заблуждений при оценке доказательств. Например, практикующие специалисты могут придавать слишком большое значение предварительным свидетельствам или неправильно интерпретировать P-значения. Мы постоянно задаемся вопросом – какие модели результатов научных исследований действительно предсказывают, что вмешательство в конечном итоге сработает? Каков реальный риск и польза от различных подходов к лечению? Мы склонны сосредотачиваться на том, где этот процесс ломается наиболее резко и даже намеренно, но принципы применимы ко всей системе. Большинство врачей не понимают P-значений, а треть исследователей признаются в действиях, которые равносильны p-хакерству (вероятно, не осознавая этого).

Правильно запрограммированный ИИ мог бы прорезать все это, давая медицинским работникам тот практический результат, который они действительно хотят и в котором нуждаются – каковы соотношения риска и пользы в процентах? Какова вероятность того, что это лечение поможет этому пациенту? Что на самом деле означает этот результат теста с точки зрения того, как он влияет на вероятность различных диагнозов? ИИ идеально подходит для работы с прогнозирующей ценностью, что часто является тем, чего мы в конечном итоге пытаемся достичь в клинической практике. Но предсказательная ценность не является интуитивной для людей – у нас есть множество когнитивных предубеждений (например, эвристика репрезентативности), которые мешают.

Вот только один пример опубликовано на этой неделе – исследователи использовали ИИ для изучения рентгеновских лучей, чтобы предсказать исходы COVID-19.

Программа, разработанная исследователями из Медицинской школы им. Гроссмана Нью-Йоркского университета, использовала несколько сотен гигабайт данных, полученных из 5224 рентгеновских снимков грудной клетки, сделанных 2943 тяжелобольными пациентами, инфицированными SARS-CoV-2, вирусом, стоящим за инфекциями.

Затем исследователи проверили прогностическую ценность программного инструмента на 770 рентгеновских снимках грудной клетки от 718 других пациентов, поступивших по поводу COVID-19 через отделение неотложной помощи в больницах Нью-Йоркского университета в Лангоне с 3 марта по 28 июня 2020 г. Компьютерная программа точно предсказала четыре из них. пять инфицированных пациентов, которым потребовалась интенсивная терапия и искусственная вентиляция легких и / или они умерли в течение четырех дней после госпитализации.

Вероятно, что сегодня в карьере большинства практикующих врачей подобные инструменты станут обычным делом, и вскоре станет немыслимо принимать клинические решения без такой поддержки. Но каковы риски регулярного включения ИИ в процесс принятия клинических решений?

Во-первых, заинтересованные лица научатся играть с системой. Алгоритмы мощные, но если вы знаете, как они работают, вы можете их взломать. Это может привести к тому, что исследования будут разработаны специально для того, чтобы, например, повлиять на алгоритм ИИ, а не получить наилучшие данные.

Другой риск состоит в том, что эти алгоритмы будут включать существующие в медицине предубеждения и тем самым усиливать их. В недавнем комментарии д-р Эмби, заместитель декана по исследованиям в области информатики и здравоохранения Медицинского факультета Индианского университета, написал:

Алгоритмическая производительность меняется по мере развертывания с разными данными, разными настройками и различными взаимодействиями человека и компьютера. Эти факторы могут превратить полезный инструмент в инструмент, который причиняет непреднамеренный вред, поэтому эти алгоритмы необходимо постоянно оценивать, чтобы устранить внутреннюю и системную несправедливость, существующую в нашей системе здравоохранения. Поэтому крайне важно, чтобы мы продолжали разрабатывать инструменты и возможности для обеспечения систематического наблюдения и бдительности при разработке и использовании алгоритмов в здравоохранении.

Весьма вероятно, что мы приближаемся к началу масштабного сдвига в нашей практике медицины. Пришло время убедиться, что этот мощный инструмент улучшает научный характер медицины и служит для уменьшения, а не усиления существующих предубеждений.

Leave a Reply

Your email address will not be published. Required fields are marked *