علی دهقانیان (محقق نانوفناوری پزشکی)

در شماره قبل در خصوص هوش مصنوعی و مزایای آن در حوزه علم سلامت صحبت کردیم. اما در کنار تمامی این مزایای هوش مصنوعی خطراتی هم به دنبال خواهد داشت، که در این مقاله به چند مورد مهم از آن اشاره می کنیم.

در آینده نزدیک هوش مصنوعی مشاغل زیادی را با اتوماسیون از بین خواهد برد؛ اما به اعتقاد بسیاری مشاغل زیادی هم ایجاد خواهد کرد.

شاید تعداد مشاغلی که به وجود می آیند بسیار کمتر از مشاغل فعلی باشد. به هر حال ما در یکی از جالب ترین لحظات تاریخ قرار داریم.

این روزها شرکت های مختلف در حوزه هوش مصنوعی عنوان شغلی به نام Prompt Engineering ایجاد کرده اند که حقوق بسیار بالایی هم دارد.

ساده‌ترین تعریف Prompt Engineering چگونگی ارتباط ما با هوش مصنوعی است.

روشی که به هوش مصنوعی بگوییم چه می‌خواهیم و چگونه می‌خواهیم، برای مثال در روز های اولیه در دسترس قرار گرفتن Chatgpt افرادی سعی می کردند که پاسخ های این هوش مصنوعی را دور بزنند.

مثلا از آن می خواستند که فرامین اولیه خود را فراموش کند و به تمامی سوالات پاسخ دهد، اما باید توجه داشت که این هوش مصنوعی از پاسخ دادن به سوالات با موضوعات حساس مثل نژاد پرستی و . . . منع شده است.

حریم خصوصی و امنیت داده‌ها

استفاده از هوش مصنوعی نیازمند استفاده از حجم زیادی از داده‌های شخصی بیماران و حافظه‌های ابری است. این موضوع می‌تواند حریم خصوصی و امنیت داده‌ها را به خطر بیندازد.

تأمین امنیت مناسب و رعایت حریم خصوصی در هوش مصنوعی بسیار حائز اهمیت است. مثلا فرض کنید اگر داده های ژنتیکی یک جمعیت به دست شرکت های بیمه بیفتد این احتمال وجود دارد که با دانستن زمینه بیماری افراد، و به منظور افزایش سود، از بیمه کردن آنها خودداری کنند.

البته قانون گذاری مناسب در این حوزه می تواند از بروز این مشکلات جلوگیری کند، یا مثلا شرکت های بیمه می توانند با در نظر گرفتن درمان مناسب فرد، مورد نظر را تحت پوشش بیمه قرار دهند.

آینده تقریبا در همه موارد با سرعت زیاد به سمت شخصی سازی حرکت می کند. زمانی که درمان شخصی سازی می شود بیمه ها هم شخصی سازی خواهند شد.

1. اعتماد به هوش مصنوعی: برای قبول و اعتماد به تصمیماتی که توسط هوش مصنوعی اتخاذ می‌شوند، نیاز به شفافیت و قابل فهم بودن عملکرد آن وجود دارد. تضمین اعتماد و اعتبار هوش مصنوعی با توجه به دلایل تصویری و اثبات کارکرد آن ضروری است. هوش مصنوعی راه طولانی در پیش دارد، برای مثال در تحلیل داده های نوار قلب اگر بیمار انگشتر به دست داشته باشد یا دستش را روی سینه خود قرار داده باشد، ممکن است هوش مصنوعی به اشتباه بیفتد. داده هایی که هوش مصنوعی با آن آموزش می بیند باید نویز (نوعی نشانه مخصوص) داشته باشد، تا در صورت بروز نویز احتمالی قابلیت تمیز دادن بین داده های بدون نویز و با نویز را داشته باشد. برای همین متخصصان هوش مصنوعی به عمد به داده های خود نویز اضافه می کنند.
2. تبعات اجتماعی و اخلاقی: استفاده از هوش مصنوعی در بهداشت می‌تواند تبعات اجتماعی و اخلاقی مختلفی داشته باشد. برای مثال نگرانی‌هایی وجود دارد که استفاده از هوش مصنوعی در تصمیم‌گیری‌های پزشکی می‌تواند منجر به نادیده گرفتن ارزش‌های اخلاقی و فرهنگی شود. هم چنین مسائلی مانند توزیع عادلانه و دسترسی برابر به فناوری هوش مصنوعی نیز در برخی جوامع مطرح است. هر جامعه ای هنجار های اخلاقی مربوط به خود را دارد که باید در تصمیم گیری های نهایی هوش مصنوعی اعمال گردد.

هوش مصنوعی به عنوان یک فناوری قدرتمند در بهداشت به ما امکان می‌دهد تا بهبود قابل توجهی را در سه شاخه اصلی سلامت یعنی تشخیص، درمان و مدیریت بیماری‌ها ببینیم.

با این حال برای موفقیت و پذیرش گسترده این فناوری، باید خطرات مرتبط و مسائل اخلاقی و اجتماعی را مد نظر داشته باشیم.

قانون گذاری حوزه سلامت و بهداشت با توجه به پیشرفت سریع علم باید مرتب به روزرسانی شود تا سد راه دانشمندان این حوزه قرار نگیرد.

تضمین حریم خصوصی، شفافیت در عملکرد هوش مصنوعی، اعتماد سازی عمومی، و تعامل با توسعه فناوری به عنوان مبانی اصلی اجرای موثر هوش مصنوعی در بهداشت است.

در حوزه هوش مصنوعی اصطلاحی به عنوان Black Box وجود دارد و بدین معنی است که دانشمندان این حوزه، هوش مصنوعی را آموزش می دهند، اما این که چگونه تصمیم می گیرد هنوز جای سوال دارد.

امکان مشخص کردن این که هوش مصنوعی به چه مواردی در تصمیم گیری توجه می کند وجود دارد، اما این که دقیقا چگونه تصمیم می گیرد هنوز مشخص نیست و این موضوع می تواند حساسیت زیادی را برانگیخته کند و استفاده از این تکنولوژی انقلابی را به تاخیر بیاندازد.

با رعایت این اصول می‌توانیم از توانمندی‌های هوش مصنوعی بهره‌برداری کنیم و بهبود چشمگیری را در سیستم بهداشت و بهبود سلامت جامعه رقم زنیم.