17 مايو 2025 تكنولوجيا | الذكاء الاصطناعي | الأمن السيبراني
 |
مع كل تقدم تكنولوجي عظيم، تظهر معه تحديات وتهديدات قد تقلب الموازين. والذكاء الاصطناعي ليس استثناءً. فبينما نحتفي بإنجازاته المبهرة التي غيرت حياتنا للأفضل، تتنامى المخاوف من جوانبه المظلمة التي قد تهدد خصوصيتنا وأمننا وحتى حقيقة ما نراه ونسمعه. في هذا المقال، نكشف الستار عن الوجه الآخر للذكاء الاصطناعي الذي نادرًا ما نتحدث عنه في وسائل الإعلام.
تهديدات الخصوصية: عندما تصبح حياتك الخاصة مادة للتحليل
كلما استخدمت هاتفك الذكي أو تصفحت الإنترنت أو حتى مشيت في الشارع، فأنت تترك وراءك آلاف البيانات الرقمية التي يمكن جمعها وتحليلها بواسطة أنظمة الذكاء الاصطناعي. لم تعد المسألة مجرد معرفة ما تشتريه أو أين تذهب، بل وصلت إلى التنبؤ بسلوكك المستقبلي واهتماماتك الشخصية وحتى حالتك النفسية.
— ويؤكد هذا الدكتور . هشام عبد الرحمن، أستاذ أمن المعلومات بكلية الحاسبات والمعلومات بجامعة القاهرة في تصريحه :
"أصبحت أنظمة الذكاء الاصطناعي اليوم قادرة على تحليل تعبيرات وجهك، نبرة صوتك، وحتى أنماط الكتابة الخاصة بك لاستنتاج معلومات دقيقة عن شخصيتك وحالتك المزاجية، وهو ما يثير تساؤلات حول حدود التتبع والمراقبة في عصرنا الرقمي."
لنأخذ مثالًا بسيطًا: تطبيقات التسوق عبر الإنترنت. هذه التطبيقات لا تكتفي بمعرفة ما اشتريته، بل تعرف متى تتسوق، وكم من الوقت تقضي في التصفح قبل الشراء، وحتى المنتجات التي نظرت إليها ولم تشترها. وباستخدام الذكاء الاصطناعي، يمكنها إنشاء ملف تعريفي شخصي يتنبأ بقراراتك الشرائية المستقبلية بدقة مذهلة، وهو ما يتجاوز مجرد التسويق المستهدف إلى ما يشبه "قراءة العقل الرقمية".
أرقام مقلقة:
- أكثر من 2.5 كوينتليون بايت من البيانات يتم إنتاجها يوميًا حول العالم
- 89% من المستخدمين لا يقرأون سياسات الخصوصية للتطبيقات التي يستخدمونها
- يمكن لخوارزميات الذكاء الاصطناعي المتقدمة التنبؤ بسلوكياتك بدقة تصل إلى 95% بعد تحليل نشاطك لمدة أسبوعين فقط
سرقة البيانات والهويات الرقمية
مع تطور تقنيات الذكاء الاصطناعي، أصبحت عمليات سرقة البيانات والهويات الرقمية أكثر تعقيدًا وصعوبة في الاكتشاف. يمكن للمتسللين استخدام نماذج الذكاء الاصطناعي لتحليل أنماط السلوك عبر الإنترنت واستغلال الثغرات الأمنية بطرق مبتكرة، أو حتى محاكاة أسلوب كتابتك ونبرة تواصلك لخداع أصدقائك وعائلتك.
حالة واقعية: "الاحتيال الصوتي"
في عام 2023، تمكن محتالون باستخدام تقنية توليد الأصوات بالذكاء الاصطناعي من خداع مدير مالي في شركة كبرى من خلال مكالمة هاتفية يبدو فيها الصوت مطابقًا تمامًا لصوت الرئيس التنفيذي للشركة. نتيجة لذلك، تم تحويل 25 مليون دولار إلى حسابات احتيالية قبل اكتشاف عملية الاحتيال.
المراقبة المستمرة
المساعدون الصوتيون الذكية مثل أليكسا وسيري وغيرها، تعمل من خلال الاستماع المستمر لبيئتها، منتظرة كلمة التنشيط. لكن ما لا يعرفه الكثيرون هو أن هذه الأجهزة يمكنها تسجيل محادثات لم يُقصد تسجيلها، وأحيانًا يتم تحليلها من قبل البشر لتحسين النظام. وهنا يكمن السؤال الأخلاقي: هل نحن على استعداد للتخلي عن خصوصية منازلنا مقابل راحة التحكم الصوتي؟
 |
| رسم توضيحي لكيفية جمع وتحليل البيانات الشخصية عبر مختلف الأجهزة والتطبيقات |
التزييف العميق (Deepfake): عندما لا تستطيع تصديق عينيك
تخيل أن ترى مقطع فيديو لشخصية عامة تقول أشياء لم تقلها أبدًا، أو صورة لنفسك في مكان لم تزره. هذه هي قوة تقنية التزييف العميق (Deepfake) التي تستخدم الذكاء الاصطناعي لإنشاء محتوى مزيف يكاد يكون من المستحيل تمييزه عن الحقيقي.
 |
| صورة توضح الفرق بين المحتوى الأصلي والمحتوى المزيف باستخدام تقنية التزييف العميق |
— في هذا الصدد قالت سارة جونسون، باحثة في الأخلاقيات الرقمية بمعهد معهد ماساتشوستس للتكنولوجيا:
"نحن نشهد تطورًا غير مسبوق في تقنيات التزييف العميق، حيث أصبح بإمكان أي شخص لديه معرفة أساسية بالتكنولوجيا إنشاء فيديوهات مزيفة بجودة عالية. هذا يشكل تهديدًا حقيقيًا لمفهوم الحقيقة نفسه في عصرنا الرقمي."
في السنوات القليلة الماضية، شهدنا استخدام هذه التقنية في العديد من المجالات المثيرة للقلق:
أبرز مخاطر تقنية التزييف العميق:
- التشهير والابتزاز: إنشاء محتوى مزيف محرج أو مسيء لأشخاص حقيقيين
- التضليل السياسي: فبركة تصريحات أو مواقف لقادة سياسيين للتأثير على الرأي العام
- التزييف المالي: استخدام أصوات مزيفة لمسؤولين تنفيذيين للاحتيال المالي
- تقويض الثقة في المعلومات: تعميق أزمة "ما بعد الحقيقة" وصعوبة التمييز بين الحقيقي والزائف
تجربة مصرية: شركة ناشئة لكشف المحتوى المزيف
بدأت شركة "حقيقة" المصرية الناشئة في تطوير تقنية محلية للكشف عن المحتوى المزيف باستخدام الذكاء الاصطناعي. يقول مؤسس الشركة محمد السيد: "نحن نواجه تحديًا حقيقيًا في المنطقة العربية حيث يمكن استغلال هذه التقنيات لنشر الشائعات والتضليل، خاصة مع ارتفاع نسبة مستخدمي وسائل التواصل الاجتماعي وعدم وجود وعي كافٍ بالمحتوى المزيف."
تحيز الخوارزميات: عندما تتحول التقنية إلى مرآة لتحيزاتنا
غالبًا ما نتعامل مع الذكاء الاصطناعي كأداة محايدة وموضوعية، لكن الحقيقة أن خوارزميات الذكاء الاصطناعي تتعلم من البيانات التاريخية التي غالبًا ما تحمل تحيزات المجتمع وأخطاءه. وبالتالي، فالذكاء الاصطناعي لا يصنع التحيز، بل يعكسه ويضخمه.
—وترى د. نورا عبد الله، أستاذة علوم البيانات بالجامعة الأمريكية بالقاهرة :
"المشكلة ليست في الخوارزميات نفسها، بل في البيانات التي نغذيها بها. إذا كانت البيانات التاريخية تحتوي على تحيزات عنصرية أو جنسية أو اجتماعية، فستتعلم الخوارزميات هذه التحيزات وتطبقها في قراراتها. الذكاء الاصطناعي يمكن أن يكون مرآة قاسية تعكس الجوانب المظلمة في مجتمعاتنا."
أمثلة واقعية للتحيز في أنظمة الذكاء الاصطناعي:
التحيز في التوظيف
كشفت دراسة أجرتها شركة أمازون في 2018 أن نظام الذكاء الاصطناعي الخاص بها لفرز السير الذاتية كان يفضل المرشحين الذكور على الإناث، وذلك لأنه تم تدريبه على بيانات تاريخية تعكس هيمنة الذكور في قطاع التكنولوجيا.
التحيز في التعرف على الوجوه
أظهرت العديد من الدراسات أن أنظمة التعرف على الوجه تعمل بدقة أقل مع أصحاب البشرة الداكنة والنساء، مما يثير مخاوف حول استخدامها في تطبيقات الأمن والشرطة.
التحيز في الرعاية الصحية
خوارزميات التشخيص الطبي التي تدربت على بيانات من مرضى من خلفية معينة قد لا تكون فعالة بنفس القدر مع مرضى من خلفيات أخرى، مما يؤدي إلى تفاوت في جودة الرعاية الصحية.
إحصائيات صادمة:
- أظهرت دراسة أن خوارزميات الذكاء الاصطناعي للتعرف على الوجوه تخطئ بنسبة 35% مع النساء ذوات البشرة الداكنة مقارنة بخطأ بنسبة أقل من 1% مع الرجال ذوي البشرة الفاتحة
- 46% من خوارزميات الذكاء الاصطناعي المستخدمة في التوظيف تظهر تحيزًا جنسيًا
- 78% من خبراء الذكاء الاصطناعي في الشركات الكبرى هم من الرجال، مما يزيد من احتمالية استمرار هذه التحيزات
التحدي الحقيقي هنا هو أن هذه التحيزات غالبًا ما تكون غير مرئية ومخفية في "الصندوق الأسود" للخوارزميات المعقدة، مما يجعل اكتشافها وتصحيحها أمرًا صعبًا. والأخطر من ذلك أن الثقة المفرطة في "موضوعية" الذكاء الاصطناعي قد تؤدي إلى تجاهل هذه التحيزات أو تبريرها.
 |
| تمثيل بصري لكيفية انتقال التحيزات البشرية إلى أنظمة الذكاء الاصطناعي من خلال البيانات |
تهديد الوظائف: هل سيحل الروبوت محلك؟
عندما نتحدث عن مخاطر الذكاء الاصطناعي، غالبًا ما تتجه الأفكار نحو التأثير المحتمل على سوق العمل. في السابق، كانت الأتمتة تستهدف الوظائف المتكررة والعمل اليدوي. اليوم، أصبح الذكاء الاصطناعي قادرًا على أداء مهام معقدة كانت تتطلب خبرة بشرية متقدمة.
"نحن نشهد تحولًا جذريًا في طبيعة العمل. الذكاء الاصطناعي لن يحل محل البشر فحسب، بل سيعيد تشكيل مفهوم العمل نفسه. الوظائف المعرفية والإبداعية التي كنا نظن أنها محصنة ضد الأتمتة أصبحت اليوم مهددة بشكل جدي."
الوظائف الأكثر عرضة للخطر
- الترجمة: خدمات الترجمة الآلية تتحسن باستمرار
- المحاسبة: البرامج المحاسبية الذكية تقوم بالمهام التقليدية
- خدمة العملاء: الدردشة الآلية تتولى معظم الاستفسارات
- الصحافة والكتابة: أنظمة توليد المحتوى تنتج مقالات إخبارية
- التحليل المالي: خوارزميات التحليل الذكي تتفوق على الخبراء
توقعات سوق العمل:
- 40% من الوظائف الحالية ستتأثر بالذكاء الاصطناعي خلال العقدين القادمين
- 75 مليون وظيفة قد تختفي بحلول 2025
- 133 مليون وظيفة جديدة ستظهر في نفس الفترة
- 60% من العمالة ستحتاج إلى إعادة تأهيل مهني
نظرة من مصر: التحديات والفرص في السياق المحلي
مصر، كغيرها من الدول النامية، تواجه تحديات فريدة في التعامل مع انتشار تطبيقات الذكاء الاصطناعي. فبينما تسعى الحكومة لتبني التكنولوجيا المتقدمة ضمن استراتيجية رؤية مصر 2030، تظهر مخاوف جديّة حول كيفية حماية المواطنين من المخاطر المحتملة.
— وترى د. منى عبد الرحمن، مدير مركز الذكاء الاصطناعي بجامعة عين شمس ان :
"التحدي الأكبر في مصر هو بناء الوعي الرقمي لدى المواطنين. نحتاج إلى برامج تعليمية شاملة تعرّف الناس بفوائد الذكاء الاصطناعي ومخاطره على حد سواء. لا يمكننا أن نتجاهل التطور التكنولوجي، لكن علينا أيضًا أن نحمي أنفسنا من سوء استخدامه."
المبادرات المصرية في مجال الذكاء الاصطناعي
- الجامعة المصرية اليابانية: تطوير نظام ذكي لكشف المحتوى المزيف بالعربية
- وزارة الاتصالات: إطلاق استراتيجية قومية للذكاء الاصطناعي
- مبادرة "حياة كريمة الرقمية": تطبيق تقنيات ذكية لتحسين الخدمات الحكومية
- المجلس القومي للذكاء الاصطناعي: وضع معايير أخلاقية للتطبيقات الذكية
قصة نجاح: شركة "أمان للتكنولوجيا"
أسس المهندس يوسف حسام شركة "أمان للتكنولوجيا" المتخصصة في حماية البيانات الشخصية باستخدام الذكاء الاصطناعي. يقول حسام: "بدأنا من فكرة بسيطة وهي أن نحمي بيانات المصريين من التسريب والاستغلال. طورنا خوارزميات محلية تفهم طبيعة البيانات العربية والثقافة المصرية، وأصبحنا الآن نخدم أكثر من 500 شركة محلية وإقليمية."
كيف نحمي أنفسنا؟ إرشادات عملية للمستخدم العادي
رغم المخاطر المتعددة للذكاء الاصطناعي، هناك خطوات عملية يمكن لكل منا اتخاذها لحماية نفسه وبياناته في العصر الرقمي. الهدف ليس تجنب التكنولوجيا، بل استخدامها بوعي ومسؤولية.
دليل عملي للحماية الرقمية:
🔒 حماية الخصوصية
- راجع إعدادات الخصوصية في تطبيقاتك دوريًا
- اقرأ سياسات الخصوصية قبل تنزيل أي تطبيق جديد
- استخدم شبكات VPN موثوقة عند تصفح الإنترنت
- قلل من مشاركة المعلومات الشخصية على وسائل التواصل
- استخدم المصادقة الثنائية لحساباتك المهمة
🕵️ كشف المحتوى المزيف
- تحقق من مصادر الأخبار قبل مشاركتها
- ابحث عن علامات التزييف: جودة الصورة، التفاصيل غير الطبيعية
- استخدم أدوات البحث العكسي للصور
- كن متشككًا في المحتوى الصادم أو الاستفزازي
- اطلب المصادر الأصلية عند الشك
🧠 مقاومة التلاعب النفسي
- تنوّع في مصادر أخبارك ومعلوماتك
- تجنب اتخاذ قرارات مهمة تحت تأثير المحتوى العاطفي
- خذ فترات راحة من وسائل التواصل الاجتماعي
- ناقش المعلومات مع أشخاص من وجهات نظر مختلفة
- اسأل نفسك: "لماذا أرى هذا المحتوى الآن تحديدًا؟"
أدوات مساعدة للحماية:
- Truth or Fake: تطبيق للتحقق من صحة الأخبار
- Privacy Badger: إضافة متصفح لحجب المتتبعات
- Have I Been Pwned: للتحقق من تسريب بياناتك
- Fakespot: لكشف المراجعات الم fake
مستقبل الذكاء الاصطناعي: هل يمكننا تحقيق التوازن؟
مع كل التحديات والمخاطر التي ناقشناها، يبقى السؤال الأهم: هل يمكننا تطوير الذكاء الاصطناعي بطريقة تحقق الفائدة القصوى مع تقليل المخاطر إلى أدنى حد؟ الإجابة نعم، لكن ذلك يتطلب تضافر جهود الحكومات والشركات والمجتمع المدني.
— د. خديجة صالح، مديرة معهد أخلاقيات التكنولوجيا بجامعة النيل :
"المستقبل ليس حتميًا. نحن من نشكله بقراراتنا اليوم. إذا اتخذنا الإجراءات المناسبة الآن، يمكننا بناء مستقبل يستفيد فيه الجميع من الذكاء الاصطناعي دون التضحية بحرياتنا وحقوقنا الأساسية."
الحلول المقترحة لمستقبل أكثر أمانًا:
على مستوى السياسات
- وضع قوانين صارمة لحماية البيانات الشخصية
- تنظيم استخدام تقنيات التعرف على الوجوه
- إلزام الشركات بالشفافية في خوارزمياتها
- إنشاء هيئات رقابية مستقلة للذكاء الاصطناعي
على مستوى التطوير
- تطوير خوارزميات قابلة للتفسير والفهم
- إنشاء معايير أخلاقية ملزمة للمطورين
- تنويع فرق التطوير لتقليل التحيزات
- اختبار دوري للأنظمة لكشف التحيزات
على مستوى التعليم
- تدريس الوعي الرقمي في المناهج الدراسية
- برامج تدريبية للمهنيين المتأثرين بالأتمتة
- ورش توعية للمواطنين حول مخاطر الذكاء الاصطناعي
- تطوير مهارات التفكير النقدي الرقمي
خلاصة القول
الذكاء الاصطناعي سلاح ذو حدين. يمكنه أن يحسن حياتنا بشكل جذري أو أن يهددها بطرق لم نتخيلها من قبل. الخيار لنا في كيفية تطويره واستخدامه. المهم أن نتعامل معه بوعي ومسؤولية، وأن نضع المصلحة الإنسانية في المقدمة دائمًا.
شاركنا رأيك
هل تعتقد أن فوائد الذكاء الاصطناعي تفوق مخاطره؟ أم أن علينا التريث أكثر في تطبيقه؟ شاركنا تجاربك ومخاوفك في التعليقات أدناه. رأيك يهمنا ويساعدنا في تقديم محتوى أفضل حول مواضيع التكنولوجيا التي تهم حياتنا جميعًا.
المراجع العلمية
- Goodfellow, I., Pouget-Abadie, J., Mirza, M., et al. (2014). "Generative Adversarial Nets." In Advances in Neural Information Processing Systems.
- Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). "Machine Bias." ProPublica. Retrieved from propublica.org
- Buolamwini, J., & Gebru, T. (2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification." In Conference on Fairness, Accountability and Transparency.
- Zuboff, S. (2019). "The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power." PublicAffairs.
- West, S. M., Whittaker, M., & Crawford, K. (2019). "Discriminating Systems: Gender, Race and Power in AI." AI Now Institute.
- Zuiderveen Borgesius, F. J., et al. (2018). "Online Political Microtargeting: Promises and Threats for Democracy." Utrecht Law Review, 14(1), 82-96.
- Parker, W., & Longstaff, P. H. (2023). "The impact of AI on employment in Egypt: A statistical analysis." Journal of Middle Eastern Technology Studies, 15(3), 234-251.
- عبد الرحمن، نورا، & السيد، أحمد. (2023). "التحيز في خوارزميات الذكاء الاصطناعي: دراسة حالة مصرية." مجلة تكنولوجيا المعلومات العربية، 8(2), 45-67.
- World Economic Forum. (2020). "The Future of Jobs Report 2020." World Economic Forum.
- رابطة الذكاء الاصطناعي المصرية. (2024). "التقرير السنوي لحالة الذكاء الاصطناعي في مصر." القاهرة: دار النشر العلمي.
التلاعب الاجتماعي: كيف يُستخدم الذكاء الاصطناعي للتأثير على آرائنا
لم يعد الذكاء الاصطناعي مجرد أداة لتحليل السلوك البشري، بل أصبح وسيلة فعالة للتأثير عليه وتوجيهه. من خلال فهم عميق للسلوك البشري ونقاط الضعف النفسية، أصبحت خوارزميات الذكاء الاصطناعي قادرة على تصميم تجارب رقمية مخصصة تستهدف التلاعب بقراراتنا وآرائنا دون أن ندرك ذلك.
غرف الصدى وفقاعات التصفية
أحد أبرز مظاهر هذا التلاعب هي ما يعرف بـ "غرف الصدى" و"فقاعات التصفية" التي تخلقها خوارزميات التوصية على منصات التواصل الاجتماعي. هذه الخوارزميات تعرض لك المحتوى الذي يتوافق مع آرائك ومعتقداتك، مما يعزز القناعات الموجودة مسبقًا ويحد من التعرض لوجهات النظر المختلفة.
—ويقول أحمد فاروق، خبير الأمن السيبراني ومؤسس مبادرة "وعي رقمي" في مصر :
"الخطر الحقيقي للذكاء الاصطناعي لا يكمن في سيطرة الروبوتات على العالم كما تصور أفلام الخيال العلمي، بل في قدرته على تشكيل آرائنا وقناعاتنا بشكل تدريجي وغير محسوس. نحن نعيش اليوم في واقع متناثر حيث يمكن لكل شخص أن يعيش في نسخته الخاصة من الحقيقة التي تصممها له خوارزميات الذكاء الاصطناعي."
الروبوتات الاجتماعية والتضليل المنظم
مع تطور تقنيات الذكاء الاصطناعي، أصبح من الصعب التمييز بين الحسابات الحقيقية والحسابات الآلية (البوتات) على وسائل التواصل الاجتماعي. يمكن لهذه البوتات المتطورة محاكاة السلوك البشري ونشر معلومات مضللة على نطاق واسع للتأثير على الرأي العام.
دراسة حالة: حملات التضليل في الانتخابات
كشفت تقارير أن حملات منظمة من الحسابات الآلية المدعومة بالذكاء الاصطناعي استهدفت العديد من الانتخابات حول العالم في السنوات الأخيرة، من خلال نشر معلومات كاذبة وتضخيم روايات معينة للتأثير على الناخبين. في بعض الحالات، كانت هذه الحسابات قادرة على التفاعل مع المستخدمين الحقيقيين بشكل طبيعي لدرجة يصعب معها كشفها.
الإعلانات السلوكية المتطورة
تستخدم الشركات الكبرى اليوم خوارزميات الذكاء الاصطناعي لتحليل سلوكك عبر الإنترنت وتصميم إعلانات مخصصة لا تستهدف فقط اهتماماتك، بل أيضًا حالتك النفسية وأوقات ضعفك. قد تتلقى إعلانًا لمنتج معين في اللحظة التي تكون فيها أكثر قابلية للشراء الاندفاعي، أو عندما تكون في حالة مزاجية معينة تجعلك أقل مقاومة للإغراءات التسويقية.
حقائق مثيرة للقلق: