مخاطر الذكاء الاصطناعي وفوائده.. كيف يؤثر في حياتنا وما هي الفرص المحتملة؟

في المستقبل، قد يكون الذكاء الاصطناعي (AI) موجودًا في كل مكان في حياتنا، قد تتحكم أنظمة الذكاء الاصطناعي في السيارات، وتوفر الرعاية الصحية، وتدير الأعمال، ولكن مع هذا التطور تأتي أيضًا مخاطر الذكاء الاصطناعي، فمن الممكن أن تصبح أنظمة الذكاء الاصطناعي متحيزة أو غير شفافة، وقد تؤدي إلى فقدان الوظائف أو انتهاكات الخصوصية، فما هي مخاطره؟، وما هي فوائده؟، وكيف يمكننا إدارة المخاطر المحتملة؟، هذا المقال يتناول هذه الأسئلة المهمة، ويقدم نظرة شاملة حول مخاطر وفوائد الذكاء الاصطناعي.

مخاطر الذكاء الاصطناعي:

مع توسع الذكاء الاصطناعي وانتشاره، ستزداد في الوقت نفسه مخاطره المرتبطة به في التطور، وهذه أكثر خمسة مخاطر للذكاء الاصطناعي انتشارًا:

عدم إمكانية تتبع تنفيذ الذكاء الاصطناعي:

حسب منظور إدارة المخاطر، نبدأ عادة بقائمة جرد للأنظمة والنماذج التي تشتمل على الذكاء الاصطناعي، حتى يمكننا تتبع مخاطر الذكاء الاصطناعي وتقييمها وتحديد أولوياتها والتحكم فيها، ولكن لسوء الحظ فإن الشعبية المتزايدة والتطور السريع للتكنولوجيا بشكل عام يؤدي إلى تنفيذها بشكل كبير خارج نطاق اختصاص فريق تكنولوجيا المعلومات الرسمي، وحسب دراسة قامت بها شركة (McAfee) أوضحت أن 80% من موظفي المؤسسة يستخدمون تطبيقات SaaS وهي خدمة برمجيات غير معتمدة في العمل في معظم الأحيان لزيادة الإنتاجية.

وقد تقوم الإدارات باختيار أنظمة قائمة على العمليات سهلة الشراء أو الرخيصة التكلفة تتضمن أحد مكونات الذكاء الاصطناعي، وقد تؤدي الترقية لبعض النظم الروتينية إلى إدخال الذكاء الاصطناعي في أحد التطبيقات، وعمومًا في كل هذه الحالات يمكن تقديم الذكاء الاصطناعي بسهولة دون معرفة إدارة المخاطر وتكنولوجيا المعلومات بذلك.

إدخال التحيز البرنامجي في صنع القرار:

من أحد أكثر مخاطر الذكاء الاصطناعي المدمرة إدخال التحيز في خوارزميات صنع القرار، وبسبب أن أنظمة الذكاء الاصطناعي تتعلم من مجموعة البيانات التي يتم تدريبها عليها، وبالاعتماد على كيفية وقوع أو حدوث هذا التجميع، فإنه يوجد احتمال أن تعكس مجموعة البيانات الافتراضات أو التحيزات، وبالتالي توثر هذه التحيزات بعد ذلك على عملية صنع القرار في النظام.

مصادر البيانات وانتهاك الخصوصية الشخصية:

تتوقع مؤسسة البيانات الدولية أن يتزايد مجال البيانات العالمي من 33 تريليون جيجابايت في عام 2018، ليصل إلى 175 تريليون جيجابايت في عام 2025، وذلك بسبب توفر كميات ضخمة من البيانات المنظمة وغير المهيكلة للشركات ليتم تعديلها ومعالجتها، وأيضًا في ظل انتشار الذكاء الاصطناعي، ستصبح الخصوصية الشخصية أكثر صعوبة في الحماية في حالة حدوث تسرب للبيانات أو حدوث انتهاكات، ويمكن أن يؤدي ذلك إلى حدوث أضرار كبيرة بسمعة الشركة، فضلًا عن اعتبارها انتهاكات قانونية محتملة خاصة مع قيام الكثير من الهيئات التشريعية الآن بإعداد لوائح تقيد وتوضح كيفية معالجة البيانات الشخصية.

خوارزميات الصندوق الأسود ونقص الشفافية:

الهدف الرئيسي من أغلب أنظمة الذكاء الاصطناعي هو إجراء تنبؤات وتوقعات، وبهذا النحو يمكن أن تكون الخوارزميات شديدة التعقيد لدرجة أنه حتى أولئك الذين أنشأوا الخوارزمية لا يمكنهم توضيح كيفية الوصول إلى التنبؤ الناتج، وهذا يعتبر نقصًا في الشفافية وسببًا في تشبيه بعض الخوارزميات بأنها (الصندوق الأسود)، على سبيل المثال رفض عميل مصرفي بناءً على توقع الذكاء الاصطناعي حول جدارة العميل الائتمانية، لذلك فإن الشركات تخاطر بعدم القدرة على تفسير السبب.

المسئولية القانونية غير واضحة:

وفقًا لمخاطر الذكاء الاصطناعي المحتملة والتي تمت مناقشتها حتى الآن، فإن هذه المخاوف تؤدي إلى مشكلة المسئولية القانونية، إذا كان نظام الذكاء الاصطناعي تم تصميمه بخوارزميات غامضة، ويعطي التعلم الآلي مسئولية اتخاذ القرار بتحسين نفسه، ففي تلك الحالة من المسئول قانونيًا عن النتيجة؟، هل هي الشركة أم المبرمج أم النظام؟، وهذا الخطر ليس افتراضه نظريًا وإنما حدث بالفعل في عام 2018م، حيث اصطدمت سيارة ذاتية القيادة بأحد المشاة وقتلته، وفي هذه الحالة لم يكن سائق النسخ الاحتياطي البشري للسيارة منتبهًا وكان مسئولًا عن فشل نظام الذكاء الاصطناعي.

اقرأ أيضًا: إيلون ماسك يحذر.. الذكاء الاصطناعي سيتجاوز البشر

فوائد الذكاء الاصطناعي:

السؤال الآن هل مخاطر الذكاء الاصطناعي تفوق فوائده؟، بالرغم من أن مخاطر الذكاء الاصطناعي كبيرة، لكن استخدام هذه الأدوات ونموها بعتبر أمرًا حتميًا أيضًا، حيث تتجاوز الفوائد المخاطر المحتملة، وتشمل أهم فوائد الذكاء الاصطناعي سيناريو اتخاذ قرار أكثر إنصافًا في حين تم تدريب الخوارزميات على تجنب التحيز، مع زيادة الفهم والوعي من منظور إدارة المخاطر والتدقيق، حيث يجب البحث عن مفتاح المميزات في أنظمة الذكاء الاصطناعي وتشمل:

• أن تشتمل أنظمة الذكاء الاصطناعي على وثائق تصميم واضحة.
• أن يخضع التعلم الآلي للاختبار والتحسين.
• أن يكون التحكم في الذكاء الاصطناعي محكومًا بالأولوية على الخوارزميات والكفاءة.
• تحمل الجميع لمسئولية معرفة المزيد عن مخاطر الذكاء الاصطناعي وكيفية التحكم فيها، وبرغم ذلك لن يختفي الموضوع وستستمر مخاطر الذكاء الاصطناعي في النمو والتغير مع زيادة تقدم التكنولوجيا وانتشارها وتطورها، وستكون المنظمات التي تتبنى النقاط الأربعة الرئيسية التي تم ذكرها أعلاه مجهزة بشكل أفضل لإدارة مخاطر أنظمة الذكاء الاصطناعي التي قد يكون لها عواقب قانونية شديدة.

في ختام هذا المقال، يمكن القول أن الذكاء الاصطناعي (AI) هو تقنية واعدة ذات إمكانات كبيرة، ولكن هناك أيضًا بعض المخاطر للذكاء الاصطناعي مثل التحيز وانتهاك الخصوصية، والتي يجب إدارتها بعناية، ومع ذلك فإن فوائد الذكاء الاصطناعي تفوق المخاطر المحتملة، حيث يمكن أن يساعد في تحسين حياتنا في العديد من المجالات مثل الرعاية الصحية والتصنيع والنقل.

اقرأ أيضًا: الذكاء الاصطناعي.. هل سيحل محل البشر؟

كتبت: سحر علي.