Варон јасно истиче: АИ још није лекар. Ниједан алгоритам није лиценциран, не полаже Хипократову заклетву и не може лично одговарати за штету пацијентима. Ипак, додаје он, прави проблем није технологија сама по себи, већ тиха ерозија људске одговорности у медицинским одлукама.

“Медицинска просудба захтева емпатију, интуицију и етички суд,” пише Варон. “АИ може предлагати терапије или обнављати рецепте, али не може преузети моралну одговорност за последице тих одлука.” Он упозорава да алгоритми дају резултате са самопоуздањем, чак и када су погрешни, док људски лекари могу да изразе сумњу и прилагоде одлуку специфичном пацијенту.

Варон указује да тренутна употреба АИ, чак и у ограниченим пилот програмима, полако мења основни етички оквир медицине. Клинике које користе АИ за обнављање рецепата или дијагностику, иако убрзавају процес, ризикују да медицина постане технички напредна, али морално празна, где пацијент више није у стварном односу са лекаром, већ део административног wоркфлоw-а.

Иако Варон признаје да АИ може смањити административне задатке и помоћи у препознавању образаца, он инсистира да “хуман-ин-тхе-лооп” мора бити више од симболичког надзора. Свака одлука мора имати конкретног лекара који преузима одговорност, може да објасни своју одлуку и, по потреби, преиначи препоруке алгоритма.

Јосепх Варон закључује: “Ако се овај процес настави без контроле, медицина неће бити замењена роботима, већ протоколима — и када се догоди штета, неће бити никога да одговара. То није напредак. То је абдикација одговорности.”