یادداشت :
هوش مصنوعی (AI) چه جایگاهی در آینده بشریت دارد؟ خیلیها در دنیای فناوری بآن امید داشته و بسیاری نیز هشدارهای موجهی در مورد آن دارند. اما واقعا چه خواهد شد؟ AI یک فناوری تجاری شده میباشد که همانند هر فناوری دیگری منافع و مضار دارند. مثلا فناوری هسته ای منافع فراوان و خطرات هولناکی دارد ، AI هم مستثنی نیست. حال تصور کنید AI مدیر یک سایت هسته ای شود و هر دو فناوری در یک زمان استثنائی باهم روی هولناک خود را نشان دهند، چه اتفاقی روی خواهد داد؟ شاید روز بعدی دیگر نباشد!!. دانش امروزی امیدوار است AI روزی بتواند به هر سوالی پاسخ دهد! آیا امکان دارد روزی AI بتواند آیه ای مشابه قرآن آورد؟ پاسخ : هرگز! ممکن است از او درخواست کنید و او یک مفهوم مشابه را بعنوان آیه سرهم کند ، اما آورده ضعیفتر از آن خواهد بود که توسط یک دانشمند برجسته مرتبط با قرآن ، تعبیری مشابه میآورد. شما هم با AIامتحان کنید و نتیجه را بررسی و با دریافت مشاوره تخصصی ،دقت کنید. بفرمایش قرآن اگر همه عالم جمع شوند مشابه این قرآن را نتوانند. AI نیز نتواند و مشابه انسان جایز الخطا است ، حتی اگر درصد خطا بسیار جزئی باشد.
پنج خطر هوش مصنوعی که نزدیک ما میباشد :
این فناوری روزبه‌روز پیچیده‌تر شده و همین پیشرفت میتواند منجر به بروز خطرات مختلفی از جمله موارد ساده (اختلال در کار) تا خطرات فاجعه‌بار شود. عموماً تصور میشود که هوش مصنوعی از دو طریق میتواند خطرناک باشد:
. این فناوری برای انجام امور مخرب برنامه‌ریزی شود
. این فناوری برای مفید بودن برنامه‌ریزی شود اما در حین رسیدن به هدف خود کار مخربی انجام دهد
این ریسک‌ها با پیچیدگی نرم‌افزار هوش مصنوعی تقویت می‌شوند. سالها قبل یک فیلسوف مشهور بنام نیک بوستروم کتابی را منتشر کرد که در آن یک سناریو تحت عنوان “به حداکثر رساندن گیره کاغذ” مطرح شد. او می‌گوید فرض کنید یک هوش مصنوعی برای تولید حداکثر تعداد ممکن گیره کاغذ توسعه پیدا کند. اگر این هوش مصنوعی به اندازه کافی باهوش باشد، میتواند کل دنیا را برای رسیدن به این هدف نابود کند.
- . اتوماسیون شغل‌ها از خطرات هوش مصنوعی
اتوماسیون یا خودکارسازی از جمله مهم‌ترین خطرات هوش مصنوعی برای شغل‌های مختلف است. از کارخانه‌ها گرفته تا اتومبیل‌های خودکار، آغاز اتوماسیون به دهه‌ها قبل برمی‌گردد ولی روزبه‌روز شتاب آن بیشتر میشود. مساله این است که برای بسیاری از کارهای مختلف، سیستم‌های هوش مصنوعی نسبت به انسانها عملکرد بهتری دارند. روی هم رفته در این موارد ارزان‌تر، دقیق‌تر و کارآمدتر از انسانها عمل می‌کنند. بعنوان مثال، هوش مصنوعی در تشخیص جعل آثار هنری بهتر از متخصصان انسانی عمل می‌کند و حالا این سیستم‌ها در زمینه‌ی تشخیص تومور از طریق تصاویر رادیوگرافی هم در حال بهتر شدن هستند. از طرف دیگر، وقتی که هوش مصنوعی بسیاری از شغل‌ها را تصرف کند، بخش بزرگی از کارگران که شغل خود را از دست داده‌اند به دلیل فقدان تخصص موردنیاز یا عدم وجود اعتبارات قادر به پیدا کردن شغل جدیدی نخواهند بود. با پیشرفت سیستم‌های هوش مصنوعی، مهارت‌های آن‌ها برای انجام کارهای مختلف بهتر از انسانها خواهد شد و اختلال در کار هم میتواند منجر به افزایش نابرابری اجتماعی و حتی یک فاجعه‌ی اقتصادی شود.
2. امنیت و حریم خصوصی
مشکل اصلی این است که با افزایش نگرانی‌های امنیتی مبتنی بر هوش مصنوعی و خطرات آن، تدابیر پیش‌گیری با استفاده از هوش مصنوعی هم افزایش پیدا می‌کنند. این مشکل همچنین این سوال را مطرح می‌کند که ما چگونه سیستم‌های هوش مصنوعی را ایمن می‌کنیم؟ اگر از الگوریتم‌های هوش مصنوعی برای دفاع در برابر نگرانی‌های امنیتی استفاده می‌کنیم، باید در رابطه با ایمن بودن خود سیستم هوش مصنوعی هم اطمینان حاصل کنیم.
3. بدافزار هوش مصنوعی
هوش مصنوعی به طور فزاینده‌ای در هک سیستم‌های امنیتی و شکستن رمزگذاری‌ها بهتر میشود. بخشی از این موضوع به تکامل الگوریتم‌های یادگیری ماشینی برمی‌گردد. این یعنی بدافزار مبتنی بر هوش مصنوعی با آزمون و خطا بهتر میشود و با گذر زمان خطر آن هم افزایش پیدا می‌کند. برخی فناوری‌های هوشمند (مانند اتومبیل‌های خودران) اهداف ایده آلی برای این نوع بدافزارها هستند و مثلا می‌توانند برای ایجاد تصادف رانندگی یا ایجاد ترافیک مورد استفاده قرار بگیرند.
4. سلاح‌های خودمختار
سلاح‌های خودمختار-سلاح‌هایی که به جای انسانها توسط سیستم‌های هوش مصنوعی کنترل می‌شوند-مدت‌هاست که انجام وظیفه می‌کنند و می‌توانند به عنوان یکی از خطرات هوش مصنوعی برای انسان در نظر گرفته شوند. در همین زمینه باید به هشدار صدها متخصص فناوری اشاره کنیم که از سازمان ملل خواسته‌اند تا راهی برای حفاظت از بشریت در برابر سلاح‌های مستقل ایجاد کند.
5. دیپ‌فیک و اخبار جعلی
فناوری دیپ‌فیک روزبروز پیشرفته‌تر شده و تشخیص جعلی بودن ویدیوهای مبتنی بر آن دشوارتر. اگرچه در حال حاضر این تکنولوژی عمدتاً برای ساخت ویدیوهای جعلی از افراد مشهور مورد استفاده قرار می‌گیرد اما همین حالا هم برخی کلاه‌برداران با استفاده از تصویر پروفایل افراد معمولی در شبکه‌های اجتماعی ویدیوهای جعلی از آن‌ها درست می‌کنند تا بتوانند باج دریافت کنند
نظر عا : تفسیر عبارت قرآنی “نفاثات فی العقد” سوره فلق ، میتواند منطبق بر مضرات و خطرات AI و امتداد آن باشد. هوش مصنوعی همان خطا و اشتباهات انسانی را خطرناکتر مرتکب میشود و مسئولیت کامل آن با توسعه دهندگان و بکار برندگان میباشد
