Цифровые технологии и здоровье Искусственный интеллект в медицине: введение

Искусственный интеллект (ИИ) проникает во многие сферы жизни. В медицине и в сфере здравоохранения в целом ИИ несет в себе большой потенциал. Ожидается, что ИИ сделает больше, чем просто изменит и упростит работу медицинского персонала. Приложения на основе ИИ, которые можно использовать для распознавания симптомов, становятся все более распространены среди пациентов. Помимо этого, ИИ может способствовать более быстрому прогрессу в области медицинских исследований. При умелом применении ИИ становится инструментом, позволяющим улучшить медицинское обслуживание в будущем.

Некоторые приложения на основе ИИ уже применяются в медицинской практике, например при оценке снимков компьютерной томографии или при координировании записей на прием во врачебных практиках. В настоящее время большое количество приложений на основе ИИ находится в стадии разработки, а на рынок постоянно выходят новые программы с ИИ. 

С помощью ИИ уже было получено большое количество новых знаний, например о факторах, вызывающих различные онкологические заболевания. ИИ может способствовать разработке новых лекарств. Благодаря использованию ИИ также упрощается оценка больших массивов данных. ИИ обещает и дальше менять сферу исследований и заметно ускорять ее развитие.

Термин «искусственный интеллект» (ИИ) постепенно входит в повседневную жизнь многих людей. В то же время существуют разные определения. Поэтому возможны ситуации, когда разные люди и организации по-разному используют этот термин. Например, под искусственным интеллектом понимается способность машин имитировать когнитивные способности человека. К таким способностям относятся, например мышление, обучение, планирование и креативность. Для этого машина вычисляет вероятности определенных утверждений или действий на основе исходных данных или команд. Системы на основе ИИ работают в определенной мере автономно. Иногда вместо аббревиатуры ИИ также используется английский вариант AI (Artificial Intelligence). 

Искусственный интеллект — это общий термин. Он также объединяет в себе определенные методы анализа данных и выявления паттернов. Эти методы называются машинным обучением. В рамках машинного обучения компьютерная программа обучается на основе большого количества данных, например на основе многочисленных рентгеновских снимков. При этом в ходе обучения программа также получает релевантную информацию. Это может быть, например, информация о том, виден ли на изображении перелом кости или нет. На основании анализа снимков ИИ выводит общие признаки переломов костей, чтобы распознавать их на новых снимках. 

Особой формой машинного обучения является Deep Learning (переводится как «глубокое обучение»). В рамках такого обучения имитируется принцип работы человеческого мозга, то есть сложный процесс подключения большого числа отдельных клеток мозга (нейронов). Для этого выстраиваются «глубокие» сети с большим количеством взаимосвязанных слоев искусственных нейронов. 

Приложения с Deep Learning также обучаются на основе данных, чтобы в дальнейшем распознавать паттерны в новых данных. Некоторые приложения с Deep Learning самостоятельно распознают релевантные общие черты в данных, на которых они обучаются, без использования дополнительной информации. Для них требуются более крупные массивы данных, чем для других приложений на основе ИИ. Благодаря взаимодействию большого количества искусственных нейронов Deep Learning позволяет решать более сложные задачи, нежели другие приложения на основе ИИ. Однако ввиду сложных взаимосвязей путь поиска решения программы с Deep Learning трудно проверить.

Некоторые сети искусственных нейронов способны самостоятельно генерировать объемные тексты или целые изображения. ИИ, который обладает такими способностями, называется генеративным ИИ.

Перед системой здравоохранения стоят очень сложные задачи. Новые дорогие методы терапии и демографические изменения приводят к постоянному росту затрат. Ввиду недостатка специалистов становится все сложнее предоставлять медицинскую помощь всем пациентам с учетом их потребностей. 

Цифровизация в целом и использование искусственного интеллекта (ИИ) могли бы внести вклад в решение этих проблем. В области медицинского обслуживания разрабатываются, тестируются и уже применяются программы, которые: 

• берут на себя административные задачи, например координирование записи к врачам;
• документируют, резюмируют и переводят беседы и результаты обследований;
• помогают пациентам оценивать свои симптомы;
• помогают анализировать результаты обследований;
• передают врачам специальные медицинские знания.

Документация

Применение программ на основе ИИ могло бы сэкономить время, например, за счет частичной автоматизации выполнения задач, требующих большого количества времени. К примеру, ИИ мог бы документировать результаты обследования или беседы с врачом, а также составлять врачебное заключение. В идеальном случае медицинский персонал мог бы использовать сэкономленное время для непосредственного контакта с пациентами.

Анализ результатов обследований

За счет анализа снимков и других данных ИИ может помогать в выявлении заболеваний. Программы с ИИ могут, к примеру, распознавать кровоизлияния в мозг на снимках компьютерной томографии. Таким образом, ИИ мог бы ускорить диагностику и повысить точность диагнозов. За счет применения программ с ИИ можно было бы компенсировать снижение концентрации внимания и другие слабые стороны человека, мешающие в процессе поиска решений, и тем самым избежать ошибок. Для этого ИИ можно было бы целенаправленно применять в таких ситуациях, где вероятность ошибок выше, например, во время ночных смен.

Медицинские исследования

Применение ИИ в медицинских исследованиях дает многообещающие результаты. К примеру, прорывное значение имело внедрение компьютерной программы на основе ИИ, способной предсказывать трехмерную структуру белков. Знание этой структуры упрощает определение функций белков в клетках и разработку новых действующих веществ для лекарственных препаратов.

Популяризация искусственного интеллекта (ИИ) открывает большой потенциал во многих областях. Тем не менее, для того чтобы реализовать этот потенциал, необходимо преодолеть некоторые сложности, связанные с применением и разработкой ИИ.

Для того чтобы иметь возможность полагаться на ИИ в медицинской сфере, необходимо следить за тем, чтобы приложения были обучены на достаточном количестве данных, подходящих для конкретной цели. Пользователей следует обучить обращению с ИИ, чтобы они могли надлежащим образом реагировать на возможные ошибки в суждениях ИИ. Кроме того, по мере роста распространения ИИ важно минимизировать его воздействие на окружающую среду.

Также экономическая целесообразность применения ИИ в медицине для систем здравоохранения до сих пор мало исследована. При этом следует проверить, какие затраты в целом возникают в связи с разработкой и внедрением ИИ в системе здравоохранения, и определить, каким образом следует использовать денежные средства на благо пациентов. 

Исходные данные

Как в исследованиях, так и в приложениях на основе ИИ для получения точных результатов необходима прочная основа из исходных данных. Использование неподходящих данных может исказить результаты. Такие искажения называются систематической ошибкой. Искаженные результаты не следует использовать для принятия решений в реальной медицинской практике или использовать лишь в ограниченной степени. 

Нежелательные систематические ошибки также могут возникать в моделях ИИ, обученных на данных, не подходящих для целей ИИ. Это может привести к ошибкам в суждениях ИИ. Чтобы избежать этого, для обучения ИИ необходимо привлекать большие массивы высококачественных данных.

В целях предоставления высококачественных данных при соблюдении строгих правил защиты данных были созданы новые учреждения, такие как Netzwerk Universitätsmedizin (Сеть университетских клиник), Forschungsdatenportal für Gesundheit (Портал исследовательских данных о здоровье) и Forschungsdatenzentrum Gesundheit (Центр исследования данных о здоровье). В будущем в рамках инициативы Europäischer Raum für Gesundheitsdaten (EHDS, Европейское пространство данных о здоровье) появится возможность совместного использования данных о здоровье внутри Европейского союза.

Приложения на основе ИИ также должны иметь возможность обучаться на данных, изначально собранных для других целей, например, на данных из электронной карты пациента. Если данные отражают всю широту и разнообразие общества, влияние систематических ошибок может быть снижено.

Прозрачность

Чем сложнее приложение на основе ИИ, тем труднее представить, как оно приходит к выдаваемым результатам. В медицинской сфере ответственность за решения с далеко идущими последствиями несут люди. Поэтому для медицинского персонала важно, чтобы результаты и оценки ИИ можно было проверить. Оценки, которые дают приложения на основе ИИ в области медицинского обслуживания, должны быть достаточно прозрачными. 

Ошибочные решения

Для некоторых приложений на основе ИИ было показано, что они допускают меньше ошибок, чем врачи. По сравнению с экспертами приложение на основе ИИ обнаруживало аномалии на снимках компьютерной томографии легких с большей степенью достоверности. Безопасность и надежность медицинских приложений на основе ИИ также являются необходимыми условиями для сертификации медицинских приложений на основе ИИ, которые выводятся на рынок как изделия медицинского назначения. Тем не менее ошибки не исключены. Медицинские работники и пациенты должны помнить об этом при использовании ИИ. Ответственность за медицинские решения по-прежнему лежит на людях. Точно так же производители несут ответственность в случае технических ошибок или неверных сведений в инструкциях по применению.

Отношения между человеком и машиной

Приложения на основе ИИ могут помогать улучшать решения, принимаемые человеком, за счет предоставления объективной и исчерпывающей информации. При определенных обстоятельствах люди склоняются к тому, чтобы больше доверять суждениям ИИ, чем оценкам других людей.

В отношении ИИ, который предоставляет более качественные оценки, чем эксперты, такое доверие оправдано. С другой стороны, в чрезмерном доверии оценкам ИИ кроется опасность постепенного делегирования искусственному интеллекту все большего количества решений, которые лучше принимать людям. Если ИИ будет брать на себя все больше решений, люди могут утратить определенные навыки.

Не только медицинский персонал, но и пациенты должны учиться правильному обращению с приложениями на основе ИИ. Сюда относится умение оценивать сильные и слабые стороны приложений на основе ИИ.

ИИ не заменит особые отношения между медицинским персоналом и пациентами. Личное внимание способствует процессу выздоровления и является важной частью процесса лечения. Приложения на основе ИИ могут укрепить эти особые отношения, предоставляя больше времени для личного контакта.

Устойчивое развитие

Сохранение большого количества данных, разработка систем на основе ИИ и каждый отдельный запрос, отправляемый в чат-бот, — все это требует энергии. В связи с этим предполагается, что цифровизация и рост распространения ИИ приведут к существенному увеличению потребности в электроэнергии для центров обработки данных по всему миру. Для эксплуатации приложений на основе ИИ также потребуются и другие ресурсы, в частности, вода для охлаждения центров обработки данных. Кроме того, ожидается экстремальное увеличение количества отходов в электронике, связанных с аппаратным обеспечением для ИИ. В то же время приложения на основе ИИ также могут внести свой вклад в оптимизацию общего потребления ценных ресурсов в системе здравоохранения, например, за счет повышения эффективности процесса разработки лекарственных средств.

Системы на основе искусственного интеллекта (ИИ), как правило, проходят долгий путь от идеи до применения в клинической практике. Системы на основе ИИ, предназначенные для определенной медицинской цели обычно считаются изделиями медицинского назначения. Для выхода на европейский рынок изделия медицинского назначения должны удовлетворять юридическим требованиям Европейского союза. Требования, необходимые для сертификации, зависят, в первую очередь, от риска, который может возникать в результате использования изделия (риск, связанный с изделием).

За разработкой приложения на основе ИИ следуют клинические испытания. В ходе этих испытаний производитель проверяет безопасность и производительность изделия. Для этого, к примеру, проводится сравнение производительности ИИ и возможностей медицинских специалистов.

Прежде чем производитель получит разрешение на вывод изделия медицинского назначения на основе ИИ на рынок, он должен проверить выполнение всех законодательных требований. Для этого он проводит так называемую процедуру оценки соответствия. В ней также участвует независимый центр исследований и сертификации. Если изделие удовлетворяет всем требованиям, оно получает маркировку СЕ. 

Помимо этого, производитель должен внедрить систему менеджмента качества. Эта система обеспечивает, в частности, следующее:

• выявление и снижение рисков, связанных с изделием (управление рисками);
• проверку изделия после его вывода на рынок.

Регламент Европейского союза об искусственном интеллекте

В будущем многие изделия с ИИ в Европейском союзе (ЕС) должны будут удовлетворять требованиям регламента об искусственном интеллекте (Закон об искусственном интеллекте, или AI Act). Регламент об искусственном интеллекте в целом запрещает внедрение в ЕС определенных систем на основе ИИ, которые служат, например, для манипулирования людьми или для установления социального контроля. Регламент об искусственном интеллекте также включает в себя требования к некоторым изделиям медицинского назначения, которые работают с ИИ. 

Некоторые положения Регламента об искусственном интеллекте пересекаются с юридическими требованиями, предъявляемыми к изделиям медицинского назначения. Например, производители изделий медицинского назначения, как и производители изделий на основе ИИ, связанных с высоким риском, должны выявлять и стараться снижать возможные риски для безопасности, здоровья и основополагающих прав человека. После выхода на рынок изделия медицинского назначения, как и изделия на основе ИИ, должны проходить проверки.

Требования Регламента об искусственном интеллекте в некоторых аспектах более конкретны, чем требования регламентов об изделиях медицинского назначения. К ним относятся, в частности, требования, касающиеся:

• обработки и хранения данных, а также защиты данных;
• протоколирования действий систем на основе ИИ, на основании которых при необходимости можно отследить ошибки;
• наблюдения за системами на основе ИИ в процессе их применения пользователями.

Решения или результаты исследований в медицине могут иметь далеко идущие последствия. Как персонал, так и пациенты должны иметь возможность полагаться на приложения с искусственным интеллектом (ИИ), применяемые в этой сфере. Поэтому приложения на основе ИИ для медицинской сферы должны разрабатываться с особой тщательностью и проходить проверки, чтобы гарантировать стабильно точные результаты.

Как на этапе разработки, так и во время применения в клинической практике программы с искусственным интеллектом зачастую обрабатывают конфиденциальные данные пациентов. 

Законодательные требования призваны обеспечить использование в Европейском союзе (ЕС) только безопасных и отслеживаемых систем на основе ИИ. Такие обязательные требования также призваны сделать разработку изделий на основе ИИ более привлекательной, поскольку производители смогут адаптироваться к законодательным нормам. Поэтому с 2024 года в ЕС существует Регламент об искусственном интеллекте (AI Act), положения которого в настоящее время поэтапно вступают в силу.