دولت جدید آمریکا در تقابل با یک نهاد غیردولتیِ ساختهشده در دوران بایدن قرار گرفته؛ ائتلافی که ادعا میشود قرار است ابزارهای هوش مصنوعی در حوزه سلامت را مورد بررسی قرار دهد و حالا زیر آتش انتقاد مقامات وزارت بهداشت و دولت ترامپ است.
CHAI چیست و چرا مهم شده؟
Coalition for Health AI (که بهاختصار CHAI خوانده میشود) یک سازمان غیرانتفاعی، با رهبری بخش خصوصی و مشارکت آزمایشگاههای دانشگاهی مانند دوک، استنفورد و مایو کلینیک است. این ائتلاف با شرکتهای بزرگ فناوری و سلامت—از مایکروسافت و آمازون تا CVS و UnitedHealth—همکاری میکند تا استانداردها، دستورالعملها و بهترین روشها برای بهکارگیری هوش مصنوعی در مراکز درمانی را تدوین کند.
کارگاهها، گروههای کاری و «کارتهای مدل»
CHAI حدوداً ۱۵ گروه کاری مبتنی بر موارد استفاده را راهاندازی کرده که محققانی از شرکتهایی مانند آمازون، اینتل، اوراکل و مایکروسافت آنها را هدایت میکنند. یکی از برنامههای کلیدی ائتلاف، ایجاد یک رجیستری سراسری از «کارتهای مدل» است—شبیه برچسب تغذیهای برای مدلها که اطلاعات کلیدی عملکرد و دادههای آموزشی را بهصورت سطح بالا نشان میدهد تا خریداران در بخش سلامت تصمیم بهتری بگیرند.
اتهامِ «رانتجویی نظارتی»؛ منتقدان چه میگویند؟
مقامات ارشد وزارت بهداشت زیر رهبری دولت ترامپ این ائتلاف را متهم کردهاند که در عمل درصدد خفه کردن استارتاپهای حوزه سلامت و تسلط بر بازار است. جیم اونیل، معاون وزارت و کمیسر سابق FDA، در مقالهای مشترک نوشتند که این رویکرد نوعی «برونسپاری نظارت» است که میتواند به شکلگیری کارتلهایی منجر شود که مانع نوآوری شوند.
نقدها به دو محور اصلی بازمیگردد: نخست ترس از اسارت در برابر منافع شرکتهای بزرگ و دوم احتمالِ الزام عملی برای پیوستن یا تبعیت استارتاپها از استانداردهایی که توسط شرکای بزرگ تعیین میشود. منتقدان میگویند هیچ سازوکاری نباید بهصورت غیررسمی قدرت تنظیمی به دست آورد و بازار را شکل دهد.
پاسخ CHAI: شفافیت و همکاری، نه قدرتطلبی
برایان اندرسون، مدیرعامل CHAI، این اتهامات را رد میکند. او میگوید ائتلاف هیچ قدرت نظارتی رسمی ندارد و نقش آن اطلاعرسانی به سیاستگذاران و کمک به طراحی مقررات آگاهانهتر است: «ما برای تنظیم مقررات کار نمیکنیم؛ دولت است که قانونگذاری میکند و ما مطابق آن عمل خواهیم کرد.»
اندارسون میافزاید که بسیاری از استارتاپها خودخواسته به CHAI میپیوندند تا محصولی بسازند که قابل اعتماد باشد و بتوان آن را به سیستمهای درمانی فروخت؛ بهعبارتی، تعامل با مشتریان بزرگ «درس اول تجارت» برای شرکتهای تکنولوژی است.
آیا استارتاپها تحتفشارند؟
گرچه CHAI غیرالزامی است، اما نزدیک به ۳۰۰۰ سازمان عضو آن شدهاند و از این میان حدود ۷۰۰ عضو را استارتاپها تشکیل میدهند. اندرسون توضیح میدهد که در هر گروه کاری هر شرکت تنها یک رای دارد و اکثریت اعضا را استارتاپها تشکیل میدهند؛ با این حال به موجب ساختار، برخی از شرکتهای بنیانگذار مانند آمازون، گوگل و مایکروسافت صندلی تضمینشدهای در هیأت مشورتی دارند که به شورای اداره گزارش میدهد—یکی از نقاطی که منتقدان به آن اشاره میکنند.
شفافیت مقابل حفاظت از مالکیت فکری
یک نقطه اشتراک بین طرفین، خواست برای شفافیت بیشتر است: خریداران سلامت میخواهند بدانند مدلها با چه دادههایی و چگونه آموزش دیدهاند و بعد از استقرار چگونه عملکردشان پایش میشود. در عین حال شرکتهای فناوری تمایل دارند اسرار تجاری و مالکیت فکری خود را محفوظ نگه دارند.
راهکاری که CHAI پیشنهاد میدهد، انتشار اطلاعات سطح بالا درباره مجموعه دادهها و روشهای آموزشی در قالب مدل کارتهاست—بهگونهای که اعتماد خریدار را جلب کند اما الزامی برای افشای دقیق ردیفبهردیف دادهها نباشد. به گفته اندرسون، هدف این است که هم منافع خریداران تأمین شود و هم حق مالکیت فکری حفظ گردد.
رابطه با دولت و خطر تغییر رفتار سیاسی
گرچه CHAI رهبری خصوصی دارد، در مقاطعی با مقامهای دولتی نیز کار کرده: دو مقام سابق دولت بایدن بهصورت غیررأیدهنده برای مدتی در هیأت حضور داشتند و چند نماینده فدرال نیز در گروههای کاری بهعنوان رابط مشارکت کردهاند. این ارتباطات ادامه داشته، اما اکنون با تغییر دولت، روابط دستخوش تنش شدهاند و وزیران جدید هشدار دادهاند که اجازه نخواهند داد هیچ نهاد خصوصی بهعنوان ناظرِ ضمنیِ دولتی عمل کند.
این اختلاف نظرها نشان میدهد که آینده همکاریهای عمومی-خصوصی در حوزه هوش مصنوعی سلامت هنوز نامشخص است—بهویژه وقتی که قانونگذاری و دخالتهای سیاسی وارد میدان میشود.
چرا این جدال برای همه ما اهمیت دارد؟
هوش مصنوعی در حوزه سلامت هم بزرگترین فرصت و هم خطر بزرگ است: فرصت از آن جهت که میتواند سرعت تشخیص و مراقبت را بالا ببرد؛ و خطر از آن جهت که اشتباهات یا سوگیریهای سیستماتیک میتواند به پیامدهای جدی منجر شود. به همین دلیل، بحث بر سر مکانیزمهای شفافیت، ممیزی و مسئولیتپذیری اهمیت حیاتی دارد.
از سوی دیگر، قوانین ایالتی و فدرال هم در حال شکلگیریاند؛ اخیراً قانون شفافیت در هوش مصنوعی پیشرفته در کالیفرنیا تصویب شده و FDA نیز خواستار دریافت بازخورد درباره نحوه ارزیابی مدلهای سلامت شده است. اینکه این بازخوردها در نهایت به نفع شهروندان عادی، استارتاپهای نوپا یا شرکتهای بزرگ تمام شود، سؤالی است که پاسخ آن مسیر آینده هوش مصنوعی در سلامت را تعیین خواهد کرد.
در میانه این کشمکش، CHAI تلاش میکند نقشی میانجی بین توسعهدهندگان، خریداران سلامت و سیاستگذاران ایفا کند—اما آیا این میانجیگری میتواند اعتماد همگان را جلب کند یا خود به منبعی از تضاد منافع بدل خواهد شد؟ تنها زمان و شفافیت واقعی میتواند جواب بدهد.
