هوش مصنوعی حتی از نظر تئوری نمی تواند “بهتر از یک پزشک” تریاژ کند

ویراستار عزیز

دکتر متیو از امید خود می نویسد که هوش مصنوعی می تواند “بهتر از یک پزشک” تریاژ کند. من قبلاً پاسخی نوشته ام که می گوید استفاده از هوش مصنوعی برای تریاژ خطرات پزشکی قانونی دارد و دکتر ویک نیز پاسخ داده است که تریاژ به “لمس انسانی” نیاز دارد.

با این حال، اکنون به نظر من دلیل مفهومی عمیق تری وجود دارد که منطقاً غیرممکن است که هوش مصنوعی “بهتر از یک پزشک” را تریاژ کند – حداقل اگر از هر مفهومی از هوش مصنوعی استفاده کنیم که یک “ربات معجزه گر” علمی-تخیلی نباشد.

برای درک دلیل، اساس اکثر سیستم‌های هوش مصنوعی که در حال حاضر استفاده می‌شوند را در نظر بگیرید: یادگیری ماشین. (این منطق در واقع برای تمام سیستم های هوش مصنوعی فعلی به طور یکسان اعمال می شود، اما من روی محبوب ترین نوع تمرکز خواهم کرد.)

یادگیری ماشینی به این صورت عمل می‌کند: ماشین موارد متعددی را که شامل ورودی‌ها و خروجی‌ها هستند مطالعه می‌کند و تشخیص می‌دهد که ترکیبی از ورودی‌ها با کدام خروجی‌ها مطابقت دارند.

وقتی خروجی مثلاً «بیوپسی سرطان را تأیید می‌کند» در مقابل «بیوپسی سرطان را رد می‌کند» خوب کار می‌کند. در این صورت ورودی ها ممکن است لیست علائم، نتایج آزمایشگاهی و تصاویر رادیولوژی باشد. پس از مطالعه موارد، برنامه یادگیری ماشینی «می‌داند» کدام ورودی‌ها کدام خروجی‌ها را پیش‌بینی می‌کنند، و سپس می‌تواند به شما بگوید که کدام بیماران احتمالاً در بیوپسی سرطان دارند.

بنابراین بیایید تصور کنیم که این ماشین را به یک سناریو تریاژ ببریم. فرض کنید به خاطر استدلال تریاژ تاکنون توسط پزشکان انجام شده است. این دستگاه موارد تریاژ از قبل تکمیل شده را مطالعه می کند تا مشخص کند کدام ورودی کدام خروجی را پیش بینی می کند. ورودی‌ها تا حد زیادی بر جمعیت‌شناسی، علائم گزارش‌شده و شاید سخنان واقعی بیماران متمرکز خواهند بود.

خوب. اما خروجی ها چیست؟ احتمالاً آنها “پزشک بیمار را با مشاوره حضوری تریاژ می کنند”. “پزشک بیمار را به مشاوره تلفنی معمول تریاژ می کند” و غیره.

عالی است، بنابراین دستگاه ما اکنون “می داند” که ارائه درد کوبنده مرکزی قفسه سینه، خروجی “دکتر بیمار را با تماس 999 تریاژ می کند” را پیش بینی می کند. اما اکنون دلیل اینکه نمی تواند بهتر از یک پزشک باشد آشکار است: دستگاه یاد گرفته است که تصمیمات پزشکان را پیش بینی / بازتولید کند.

اکنون ممکن است سریعتر از یک پزشک تریاژ باشد. اکنون ممکن است ارزانتر از یک پزشک تریاژ باشد. اما مطمئناً نمی تواند “بهتر از یک دکتر” باشد؟ از این گذشته، میزان موفقیت برنامه‌نویسی آن، میزان تطابق خروجی‌های آن با تصمیمات پزشکانی است که مطالعه کرده است.

طبق تعریف، برای این دستگاه تصمیمی متفاوت با آنچه که یک پزشک تریاژ انتخاب می‌کند، به این معنی است که این دستگاه دچار خطا شده است.

هیچ مفهومی از “نتیجه تریاژ صحیح” فراتر از آنچه که پزشک ممکن است صحیح بداند وجود ندارد. این که آیا دستگاه به خوبی یا بد تریاژ شده است یا خیر، فقط توسط پزشک که تصمیمات آن را بررسی می کند، قابل قضاوت است. بنابراین نتیجه گیری غیرقابل اجتناب به نظر می رسد که تریاژ هوش مصنوعی نمی تواند بهتر از یک پزشک باشد.