Недавно я опубликовал в "Вестях" текст про искусственный интеллект и про то, заменит ли он врачей в Израиле. В ответ на меня обрушился вал реакций. Некоторых я не ожидал, некоторые предвидел. Что ж… надо организованно ответить. И мой ответ будет: (а) субъективен - потому что все мы субъективны, (б) основан на неполной информации, поскольку продвижения колоссальны и новости появляются буквально каждый день, и (в) от него, моего ответа, ровным счетом ничего не зависит. Решения будут принимать люди, которые меня не спросят. Впрочем, вас тоже.
►Реакция номер 1. ИИ заменит докторов, вы первые в очереди на выход в страну забвения. Ответ. Никто, разумеется, не знает, что будет, кроме Ванги и Нострадамуса, но и они, как выяснилось, тоже не всегда были правы. Рискну предположить, что решение будет не за читателями и не за докторами, а за политиками и отчасти бизнесменами. И что оно может быть любым.
Завтра к власти в США придет президент, считающий, что доктора из плоти и крови плохо лечили его любимую тетю, введет указом отмену докторов - и весь мир выстроится в линейку и отдаст честь. Я утрирую. Но вы поняли. Будет это разумно и хорошо? Нет. Но политики часто принимают неразумные и нехорошие решения. Хорошие, впрочем, тоже. Иногда. И для тех, кто считает деньги и не видит за этими деревьями леса, всегда будет важным доводом, что любой, даже самый баснословно дорогой ИИ будет дешевле в долгосрочном плане, чем зарплаты докторов.
►Реакция номер 2. Доктора часто ошибаются. ИИ ошибаться не будет.
Ответ. Да. Разумеется. Мы ошибаемся часто, но чем больше у нас опыта - тем реже. Однако все равно ошибаемся. Предполагать, что ИИ не будет ошибаться, - наивно. Тоже будет. Все зависит от информации, которая ему доступна, и от его умения выбирать главное. Его и сейчас ловят на ошибках достаточно часто. Ну а потом… есть непаханое поле решений, принимать которые надо, основываясь на неполной информации. И проблема будет не в том, что ИИ ответит "не знаю", а в том, что он будет уверенно нести чушь.
►Реакция номер 3 (как вариант первой и второй). Вначале нужны будут эксперты-врачи, буквально единицы, а потом их тоже выкинем на обочину истории.
Ответ. Эксперт-врач - товар штучный. На изготовление одной штуки уходит лет пятнадцать-двадцать. Это после получения диплома. Барабан Страдивари и то проще в производстве. Положим, мы найдем Х экспертов-врачей, чтобы обучить ИИ всем премудростям. А кто будет учить новых экспертов? Для создания этих самых экспертов "полуфабрикатам" врачей нужно пахать, нужно учиться, нужно видеть разные случаи, нужно ошибаться. Нужен реальный опыт. Иначе, дорогие мои, мы можем смело сажать компьютерного летчика за штурвал самолета и лететь через Атлантику. Или учить медицину исключительно по роликам в тиктоке.
Поверьте: летные часы любого подростка - любителя компьютерных игр - в десятки раз больше, чем у заслуженного пилота какой-нибудь "Люфтганзы" или аса израильских ВВС. Кроме того, мы никак не можем посадить на грядку сто вчерашних стажеров и поверить, что через 20 лет получим из них сто экспертов. В реальности будет существенно меньше. Хотя тут опять в ход пойдет политика. Кого считать экспертом? Каковы требования? А можно их подогнать под наши нужды? Нужны эксперты срочно - так сделаем планку пониже. Скажете, так не бывает? Посмеемся вместе.
►Реакция номер 4. На фиг мне ваша эмпатия, которой у докторов якобы больше, чем у ИИ. Мне нужно, чтобы меня хорошо лечили. Я пришел в приемное отделение, и мне там сначала нагрубили, а потом ошиблись с диагнозом.
Ответ. Всем нужно, чтобы их хорошо лечили. Это разные вещи - эмпатия и "хорошо лечить". Давайте по порядку.
Хотя я чаще любого из моих читателей оказываюсь по ту сторону медицины, на которой носят белые халаты, я бываю и по другую. И я останусь при своем, возможно, ошибочном мнении, что кроме правильного диагноза и лечения пациентам надо, чтобы им улыбнулись, чтобы их выслушали и чтобы им посочувствовали. А не просто выписали таблетку.
Теперь важное лирическое отступление. Мы берем лучшие из лучших ИИ, сравниваем их с условно среднестатистическими или даже просто плохими докторами и говорим, что ИИ круче. Нет разве плохих докторов? Злых, глупых, не знающих, безразличных? Простите, коллеги. Достаточно. Вы не видели? Я видел.
С другой стороны, разве нет примеров тому, что мы пришли к доктору, и нас быстро, вежливо и правильно лечат? Вообще нет? А теперь представьте себе, что в целях экономии правительство закупило на замену докторам ИИ. Правительство, оно в любой стране считает деньги и, как всякий нормальный человек, хочет купить "Мерседес", но по цене "Жигулей". И не исключено, что будет нам с вами такой… недорогой бюджетный ИИ. С условного алиэкспресса.
►Реакция номер 5. Врачи ошибаются потому, что субъективны.
Ответ. Разумеется. Вот и славно, что субъективны. Смотрели "Доктора Хауса"? Любимая фраза главного героя там: "Все врут". Представьте себе, что вы относительно молодой мужчина лет эдак сорока пяти, немножко с животиком, немножко с одышкой, работаете сидя, и самый активный вид вашей физической деятельности - это переключение каналов на пульте телевизора. Приходите вы к кардиологу по поводу болей в груди, а это молодая симпатичная женщина, которая спрашивает вас про спорт и про то, не тяжело ли вам подниматься по лестнице на третий этаж. И вы на голубом глазу сообщаете, что (скромно) три раза в неделю в спортзале, а на третий этаж взлетаете как ракета. Не бывает так, скажете? Не бывает, но я и не такое видел. И дальше все будет, как в сказке, потому, что врач отправит вас на коронарографию или другую проверку, а машина сообщит, что ваши боли, скорее всего, не кардиальные - и вы честно словите свой инфаркт.
Утрирую ли я? Да. Разумеется. Этому примеру можно возразить множеством способов. Но это только пример. Демонстрация возможностей. ИИ будет умнее, но тонкостей эмоционального общения не просечет. Особенно, если интеракция будет в письменном виде. Щелк-щелк по клавиатуре. И вот я уже - тридцатилетний блондин с голубыми глазами и ростом два метра.
Ну и еще у людей есть интуиция, умение считывать невербальную информацию, этика, которую трудно оцифровать, и умение оперировать неполными данными. Разумеется, отчасти с этим должен справляться ИИ. Но думаю, что здесь он будет буксовать не меньше, чем доктор из плоти и крови.
►Реакция номер 6. Доктора устают. Компьютеры - никогда.
Ответ. Разумеется. Но против "устают" есть лекарство. Условия труда. Помощь (тот же ИИ) или возможность перекинуть часть работы на недокторов. Дать больше отдыхать.
ИИ не устает. Зато он ломается. Программы сбиваются, подводные кабели повреждаются, электричество отключается. Это, скажете, случается редко? Разумеется. Это можно предотвратить со стопроцентной вероятностью? Нет.
Однозначно, доктора "ломаются" чаще. Зато их больше, и заменить их - проще. Случится техническая неисправность с ИИ, который один на всю необъятную родину, ущерба будет на порядки больше. Скажете, можно это предусмотреть? Можно. Я работаю с несколькими большими и очень серьезными программами для докторов. С бешеными бюджетами. С сервисом на уровне "Ты только позвонил, а мы уже садимся чинить". Тем не менее иногда железякам и компьютерным кодам, оказывается, нужно какое-то техническое обслуживание. Смена версии. То и се. И мы на несколько часов переходим на бумагу. Это не трагедия. Ну, а теперь представьте себе, что ИИ нужно отключить на час, и внезапно (так не бывает?) выясняется, что ой, на починку надо три часа. Но все доктора уволены, а решать проблемы надо сейчас.
Да, это случается редко. Но случается. Если я, анестезиолог, выхожу с наркоза попить кофе, меня всегда сменяет другой доктор.
►Реакция номер 7. Доктора и так все делают по протоколам, поэтому они не нужны. ИИ тоже может гонять протоколы
Ответ. Да, разумеется, доктора все делают по протоколам. Я, например, даже в туалет без протокола не хожу (шутка). Но давайте по делу. Во-первых, нам абсолютно не нужен ИИ, чтобы что-то делать по протоколу. Для этого достаточно простого компьютера или простого человека с бумажной папочкой, где ему все написано. Во- вторых, вы тоже почти все делаете по протоколам. Только они сидят внутри вашей центральной нервной системы. Я, кстати, тоже. Нейроны в нашем мозгу строят для повторяющихся действий такие условные дорожки, по которым нервные импульсы бегут без напряга быстро и четко. Не выдумывая каждый раз, каким путем двигаться. Вы же не задумываетесь о том, как, например, сдвинуть указательным пальцем колесико компьютерной мышки, чтобы скроллить этот текст дальше. А для такого действия нужны десятки "протоколов": какие мышцы запустить, в какой последовательности и на какое время. Протоколы - полезный и удобный инструмент. ИИ тоже будет их использовать на всю катушку.
Когда медикам нужны протоколы? В ситуациях, когда есть рутина или когда надо быстро принимать решения, не тратя времени на размышления. Когда они нам мешают? Когда надо остановиться и подумать. Когда есть что-то нетипичное (в медицине полно нетипичного), нелогичное (полно нелогичного), не влезающее в рамки (да кто их видел, эти рамки).
Можно ли написать протоколы на все на свете? Можно. Но это, как в старой шутке, про построить коммунизм в Швеции. Можно. Но жалко. Умные люди стараются без нужды протоколы не писать. Потому что, как сказал один поэт, "правила есть для того, чтобы их нарушать". Все предусмотреть невозможно. И ситуации, когда протокол говорит одно, а здравый смысл или сердце - другое, случаются.
На прощание с протоколами приведу вам одну историю из реальной немедицинской жизни. Я ее очень люблю и часто на нее ссылаюсь. Вот она.
Император Фридрих поставил некоего майора с его батареей на определенную позицию и велел во время сражения стрелять "туда". Потом войска переместились, но майор упорно отказывался позицию сменить, хотя "туда" стрелять уже было бессмысленно, а надо было "вон туда". Майора поставили перед трибуналом и спросили, почему он ослушался своего генерала, который требовал, чтобы майор свою батарею перетащил на другую позицию и стрелял "вон туда". Бедолага гордо ответил, что у него был личный приказ императора и он не мог ослушаться. Его не оправдали. И сказано ему было примерно так: "Его Величество Фридрих дал вам офицерский чин для того, чтобы вы сами решали, какие из приказов Его Величества надо выполнять, а какие - нет". Примерно то же и с протоколами.
►Реакция номер 8. ИИ может лечить самым правильным образом, поскольку не зависит от… а от чего он не зависит?
Ответ. Разумеется. Костыль в виде ИИ будет докторам лучшей подмогой. Но есть необъективные решения. Был у меня один пациент на дежурстве в реанимации. Массивное кровоизлияние в мозг. Нейрохирурги отказались его брать: бесперспективен. По всем параметрам и протоколам. Семья настаивала. Я обзвонил по очереди пять или шесть больниц. Все надо мной посмеялись, но в последней по счету дежурный врач сказал: везите. Человека прооперировали вопреки всем инструкциям и объективным критериям, он выжил, пришел в себя, выписался домой. Почему? Опыт. Эмпатия. Решительность. И "правила есть для того, чтобы их нарушать".
И еще о субъективности. Людям всегда нужна правда. Не всем. Некоторым совсем не нужна. Но мы же знаем себя: находятся такие неудобные типы, которые носом землю будут рыть, чтобы добраться до правды. У нас есть такая штука, как статистика. Вы знаете, сколько человек умерло от коронавируса в Израиле? Не знаете, но можете найти цифры. А еще можете найти кучу споров и мнений о том, правильно ли сделали эту статистику. А в Китае знаете, сколько умерло? Погуглите. Цифры есть. Но очень многие эксперты полагают, что тамошнее правительство эти цифры корректирует. И правды не говорит. Но даже в такой ситуации нашлись люди, которые из далеко не самого демократического и дружелюбного к инакомыслящим Китая передавали на Запад информацию о том, как реально обстоят дела. И те люди, и эти люди старались донести свою правду до нас. Как только медицинской статистикой будет заниматься ИИ, она будет объективной ровно столько времени, сколько это будет нужно людям, которые этим ИИ управляют. А если кто-то не верит в то, что ИИ можно управлять, то тут есть два варианта. Либо ему, этому человеку, пора лечиться, либо всем нам кранты потому, что неуправляемый ИИ… в общем, на кой мы ему сдались?
►Реакция номер 9. ИИ уже провел успешную операцию. Даже не одну.
Ответ. Разумеется. Первый наркоз официально был дан эфиром в Бостоне в 1846 году. На самом деле первый наркоз случился раньше, только это были не операции, а удаление зубов и вросших ногтей. Всякая болезненная мелочь, которая и не мелочь вовсе. И работали первобытные анестезиологи не с эфиром, а с закисью азота. С 1846 года много воды утекло, наркозы стали существенно безопаснее, но абсолютно безопасными они не стали. Очень многие процессы в моей профессии сегодня автоматизированы и контролируются умными приборами. Дальше будет еще круче, но эта история, она как с Ахиллесом и черепахой. Ахиллес никогда черепаху не догонит, хотя будет все больше и больше приближаться к ней. Абсолютно все операции ИИ будет делать только в кино и в фантастических книгах. А мы упремся в описанную выше проблему: где взять хорошего хирурга, который может сделать то, что не сделал ИИ, если он, этот хирург, из-за ИИ не набрался достаточного опыта.
Да, у нас уже есть оперирующие роботы. Их много, и они уже достаточно распространены в Израиле. Только в большинстве своем это фикция. То, что мы называем "робот-хирург", на самом деле манипулятор, которым управляет живой человек. Эти роботизированные системы дают чудовищный выигрыш в точности и аккуратности работы. Поищите на ютюбе видео, как такой робот очищает виноградину от кожуры. Но за джойстиками сидит доктор.
Сегодня экспериментально некоторые технические аспекты делаются роботами самостоятельно. Читал, что робот сшивает сосуды. Без контроля человека. От этого до полноценной операции примерно такая же дистанция, как от робота-пылесоса до полета к другой звезде. Кстати, мой айробот по имени Румба местами халтурит. А ваш?
►Просто номер 10.
Вам никогда не хотелось подать на докторов в суд? За халатность. Если нет, то чудесно. Мне лично пару раз очень, когда я выступал в роли пациента. На самом деле медицинская халатность - это штука непростая, и надо с правильным адвокатом говорить о том, где она есть, а где ее нет.
Можно себе представить волшебный мир ИИ, где пациент подает в суд на ИИ-доктора, два ИИ-адвоката обмениваются репликами с ИИ-судьей, и заседание занимает четверть секунды, а потом провинившегося ИИ-врача отключают от сети на десять лет. Но это, разумеется, чушь.
Так получилось, что пациент может судиться с врачом или с больницей и иногда отсудить приличную сумму. Ну, а теперь на сцену выходит компания вроде Google, которая ворочает сотнями миллиардов. Тут иск можно вчинить покрупнее, да и в состязании действительно несчастного человека с супербогатым интернет-гигантом… что-то я сомневаюсь, что симпатии суда будут на стороне того, кто сидит на куче денег и, потеряв пару миллионов, не пойдет по миру. Оно этому условному гуглу надо? Трудно представить, что люди, взобравшиеся на вершину финансового мира, идиоты. Поэтому деньги зарабатывать они будут, но юридическую ответственность и почетное право стоять перед судьей оставят докторам.
А напоследок я скажу…
Разумеется, вышесказанное - мое личное и, возможно, сугубо ошибочное мнение. Его легко можно оспорить, время покажет реальность тех или иных предположений. ИИ открывает огромные возможности в медицине, он позволит уменьшить нагрузку на врачей и медсестер, заберет значительную часть рутинной работы, снизит количество ошибок в лечении и диагностике. ИИ однозначно даст нам гораздо больше возможностей в анализе статистики, входящих данных, результатов анализов, в планировании и проведении исследований и позволит сделать передовую медицину доступной в самой дикой глуши. Количество необходимых врачебных ставок сократится с его появлением. Решение о полной замене живых докторов электронными будет принято (или не принято) политиками, и если такое случится, это будет большой глупостью.