أخبار
تطبيقات ذكاء اصطناعي تسرّب أسرار العمل وبيانات العملاء
رصدت «الإمارات اليوم» وقائع وتقارير تشير إلى إساءة استخدام تقنيات الذكاء الاصطناعي في جهات عمل، من خلال قيام موظفين بتحميل الملفات والوثائق على بعض التطبيقات والمنصات لتلخيصها أو تحليلها عبر الذكاء الاصطناعي، وهو ما اعتبره خبيران متخصصان في أمن المعلومات والقانون، تهديداً مباشراً لخصوصية البيانات وسريتها، ما لم يتم التحقق من سياسات الاستخدام والأمان التي تتبعها تلك المنصات، موضحَين أن درجة الخطورة تتباين بناءً على طبيعة المحتوى المرفوع ونوع الأداة المستخدمة، حيث تكمن المعضلة الأساسية في الأدوات المجانية أو المنصات غير المعروفة، التي تعتمد في سياسة تشغيلها على حفظ الملفات المرفوعة داخل خوادمها، وإعادة استخدامها لتطوير وتدريب نماذجها الخاصة، ما يؤدي إلى انتهاك الخصوصية التجارية، مثل تسريب التقارير المالية والخطط الاستراتيجية أو بيانات العملاء وظهورها كإجابات لمستخدمين آخرين.
أرقام صادمة
وكشفت دراسة حديثة أجرتها مؤسسة «هارمونيك سيكوريتي» للأمن السيبراني، ونشر نتائجها موقع «أكسيوس»، في يوليو الماضي، عن أرقام صادمة تعزز هذه التحذيرات، حيث تبين أن الموظفين يسربون أسرار شركاتهم بشكل متزايد إلى روبوتات الدردشة، إذ ظهرت بيانات مؤسسية حساسة في أكثر من 4% من الأوامر النصية، وما يزيد على 20% من الملفات المرفوعة على أدوات الذكاء الاصطناعي التوليدي خلال الربع الثاني من هذا العام.
وأشارت الدراسة – التي فحصت مليون رسالة (Prompts) و20 ألف ملف مرسل عبر 300 أداة ذكاء اصطناعي وتطبيق سحابي – إلى أن المشكلة تتفاقم بسبب لجوء الموظفين لاستخدام هذه الأدوات سراً أو دون تدريب مناسب نتيجة غياب سياسات واضحة وصارمة داخل الشركات.
أسرار في ساحة عامة
وتفصيلاً، قال الخبير التقني أحمد الزرعوني لـ«الإمارات اليوم» إن هناك توجهاً متسارعاً نحو تبني أدوات «الذكاء الاصطناعي الإنشائي» في المؤسسات والشركات، وهو توجه يواكب لغة العصر، ولكن الاستعانة بالذكاء الاصطناعي الإنشائي لإعداد تقارير مالية دقيقة، أو صياغة خطط استراتيجية للشركة، أو حتى تحليل بيانات العملاء دون وعي أمني، يعادل ترك ملفات الشركة السرية في ساحة عامة.
وأوضح أن العديد من هذه النماذج تستخدم البيانات المدخلة لتحسين وتدريب خوارزمياتها المستقبلية، ما يعني أن أسرار المؤسسة قد تظهر كإجابة لمستخدم آخر في مكان ما حول العالم، لافتاً إلى أنه لتجنب هذا «الفخ» وتأمين بيئة العمل، يجب اتباع منهجية ترتكز على خطوتين أساسيتين، هما الإدارة الصارمة للتراخيص وإعدادات الخصوصية، إذ إن الخطر الأكبر، من وجهة نظره، يكمن في الاعتماد على الإصدارات المجانية أو الحسابات الفردية غير المضبوطة لحماية البيانات الحساسة.
وأكد ضرورة الاستثمار في إصدارات الأعمال، إذ «يجب على المؤسسات الانتقال فوراً إلى التراخيص المؤسسية (مثل ChatGPT Team/Enterprise وإصدارات Claude for Work)، التي تضمن بموجب عقودها عدم استخدام بيانات الشركة لتدريب نماذجها اللغوية». وكذا التحكم بضوابط الخصوصية، موضحاً أنه حتى عند استخدام الإصدارات المدفوعة (مثل Claude Pro)، يجب على المستخدم الدخول فوراً إلى إعدادات الخصوصية (Privacy Settings) وإلغاء تفعيل خيار «استخدام البيانات لتحسين النموذج» (Model Improvement/Training). وقال: «هذا الإجراء الحاسم يضمن بقاء المدخلات في بيئة معزولة».
ونصح بعدم الاكتفاء بمنظومة ذكاء اصطناعي إنشائي واحدة، وعدم التعامل مع مخرجاتها كحقيقة مطلقة لتجنب ظاهرة «اختلاق المعلومات» (AI Hallucinations).
وأكد أن «الذكاء الاصطناعي الإنشائي ليس أداة سحرية تعمل بمفردها، بل مساعد فائق القدرة يحتاج إلى إدارة حكيمة ووعي سيبراني متقدم، وينبغي ألا نخشى التقنية فنبتعد عنها، بل يجب أن نروضها بسياسات أمنية صارمة، واستراتيجيات استخدام متعددة الأبعاد، لنضمن أننا نوظفها لخدمة أهدافنا الاستراتيجية، لا أن نكون نحن وبياناتنا وقوداً لتجاربها».
سلاح ذو حدين
من جانبه، حذر المستشار القانوني حسام الموافي من مخاطر استخدام الموظفين أدوات الذكاء الاصطناعي في تحليل بيانات الشركات، خصوصاً عند رفع ملفات تتضمن معلومات مالية أو بيانات موظفين أو مبيعات أو قوائم عملاء أو عقوداً أو تقارير داخلية، مؤكداً أن «التطور المتسارع في استخدام هذه الأدوات يفرض على الشركات وضع ضوابط قانونية واضحة لحماية معلوماتها وبياناتها».
وتشمل المخاطر مجموعة واسعة من المعلومات، من بينها بيانات العملاء والموظفين والرواتب والتقييمات، والعقود والاتفاقيات التجارية، وخطط التسويق والتوسع، وسياسات الأسعار والخصومات، والتقارير الداخلية، والدراسات والتحليلات، والمعلومات المتعلقة بالمنتجات الجديدة، والأسرار التجارية والملكية الفكرية.
وقال إن أدوات الذكاء الاصطناعي، مثل ChatGPT وGoogle Gemini وMicrosoft Copilot وClaude وPerplexity وغيرها، أصبحت من الأدوات المهمة التي تساعد الموظفين والشركات على تحليل البيانات، وإعداد التقارير، وتلخيص المستندات، وترجمة الوثائق، واستخراج المؤشرات، وإنجاز الأعمال الروتينية خلال وقت قصير، إلا أن استخدامها في التعامل مع معلومات العمل يمثل «سلاحاً ذا حدين».
وأوضح أن «هذه الأدوات تتيح للمستخدم إدخال نصوص أو رفع ملفات أو جداول أو صور أو مستندات بهدف تحليلها أو تلخيصها أو استخراج المعلومات منها، إلا أن السؤال الذي يجب أن تطرحه الشركات قبل السماح باستخدامها هو: ماذا يحدث للمعلومات التي يقوم الموظف بإدخالها أو رفعها إلى هذه الأدوات»؟
وأشار إلى أن «الإجابة ليست واحدة بالنسبة إلى جميع الأدوات، إذ تختلف سياسات الخصوصية والاحتفاظ بالبيانات واستخدامها بحسب الخدمة ونوع الحساب والإعدادات والاشتراك المستخدم. وعلى سبيل المثال، توضح Google أن بيانات Gemini Apps قد تشمل ما يقوله المستخدم للأداة والملفات والمحتويات التي يشاركها معها، كما يمكن الاحتفاظ ببعض هذه البيانات لفترات مختلفة وفق إعدادات الحساب وسياسات الخدمة. وفي المقابل، تفرق بعض الشركات بين الخدمات الموجهة للأفراد والخدمات المخصصة للشركات؛ فعلى سبيل المثال، توضح OpenAI أن بيانات خدماتها التجارية، مثل ChatGPT Business وChatGPT Enterprise وواجهة API، لا تُستخدم لتدريب النماذج افتراضياً، ما لم يتم الاشتراك صراحة في مشاركة البيانات لهذا الغرض».
وأكد أن «هذا الاختلاف يؤكد نقطة قانونية مهمة، وهي أن الموظف لا يجوز له افتراض أن جميع أدوات الذكاء الاصطناعي تتعامل مع البيانات بالطريقة نفسها».
وأضاف أن «مجرد سماح الأداة للمستخدم برفع ملف وتحليله لا يعني أنه مخول قانوناً بنقل محتوى هذا الملف إلى المنصة».
وأوضح أن «القول إن أي معلومة يدخلها مستخدم إلى أداة ذكاء اصطناعي ستظهر تلقائياً لمستخدم آخر ليس دقيقاً على إطلاقه، إلا أن إدخال المعلومات إلى خدمة خارجية قد يؤدي، بحسب الخدمة وسياساتها ونوع الحساب والإعدادات، إلى تخزينها أو معالجتها أو الاحتفاظ بها، وقد تُستخدم بعض البيانات في تحسين الخدمات أو النماذج في بعض الخدمات الاستهلاكية إذا كانت الإعدادات والسياسات تسمح بذلك».
وأشار إلى أن «الخطورة القانونية تكمن في أن الموظف قد يدخل بيانات مبيعات الشركة، أو أسعار المنتجات، أو قوائم العملاء، أو بيانات الموظفين، أو الرواتب، أو العقود، أو التقارير المالية، أو خطط التوسع، أو استراتيجيات التسويق، إلى خدمة خارجية بهدف تحليلها أو إعداد تقرير بشأنها».
وأضاف أن «ذلك قد يعني خروج البيانات من البيئة الإلكترونية التي تسيطر عليها الشركة إلى بيئة أخرى تخضع لشروط وسياسات مزود الخدمة. والمشكلة هنا ليست في الذكاء الاصطناعي ذاته، بل في نقل المعلومات السرية إلى جهة أو نظام لم تسمح الشركة باستخدامه أو لم تتحقق من الضوابط التي تحكم التعامل مع البيانات داخله».
وأكد أن من أهم النقاط التي يجب أن تدركها الشركات والموظفون أن صلاحية الوصول إلى البيانات تختلف عن صلاحية الإفصاح عنها أو نقلها أو مشاركتها مع طرف ثالث.
وقال: «قد يكون الموظف مخولاً الاطلاع على بيانات المبيعات بحكم عمله، لكن ذلك لا يعني بالضرورة أنه مخول برفعها إلى منصة خارجية لتحليلها، كما أن موظف الموارد البشرية الذي يستطيع الوصول إلى ملفات العاملين ينبغي ألا تكون لديه صلاحية تحميلها إلى أداة ذكاء اصطناعي».
وأضاف أن «استخدام الموظف الأداة بهدف إنجاز عمله لا يمنحه تلقائياً صلاحية نقل معلومات الشركة إلى نظام خارجي»، مشدداً على أن الغاية المشروعة من استخدام البيانات لا تعني بالضرورة أن كل وسيلة لمعالجتها أصبحت مشروعة أو مصرحاً بها.
وأشار إلى أن خطورة هذه المعلومات لا تتوقف على أن يكون المستند مكتوباً عليه «سري»، إذ قد تكون طبيعة البيانات ذاتها كافية لإضفاء قيمة تجارية أو شخصية عليها.
وأكد أهمية أن تتضمن اتفاقيات السرية الحديثة نصوصاً واضحة تتعلق باستخدام أدوات الذكاء الاصطناعي، بحيث يحظر على الموظف إدخال أو رفع أي معلومات سرية أو بيانات تخص الشركة إلى أدوات غير معتمدة.
كما دعا الشركات إلى وضع سياسة مستقلة لاستخدام الذكاء الاصطناعي تحدد الأدوات المسموح باستخدامها، والبيانات التي يجوز إدخالها، والبيانات التي يحظر إدخالها، والجهة التي تملك صلاحية الموافقة، والإجراءات الواجب اتباعها عند استخدام الذكاء الاصطناعي في تحليل بيانات الشركة.
وشدد على ضرورة النص صراحة على أن استخدام أي أداة ذكاء اصطناعي لمعالجة بيانات الشركة أو رفع ملفاتها لا يتم إلا بعد الحصول على تصريح أو موافقة من الجهة المختصة، بحسب طبيعة البيانات وحساسيتها.
وأكد أهمية تدريب الموظفين على تصنيف المعلومات، ومعرفة البيانات التي يحظر إدخالها إلى الأدوات العامة، والأدوات التي تعتمدها الشركة، وآلية الحصول على الموافقة قبل معالجة البيانات.
ورأى أن القاعدة التي يجب أن يعرفها كل موظف: «إذا لم تكن مخولاً بإرسال المعلومة إلى طرف ثالث، فلا تفترض أنك مخول بإدخالها إلى أداة ذكاء اصطناعي».
تحذير رسمي
ومن جانبها حرصت الجهات المعنية في دولة الإمارات على تعزيز الوعي الرقمي بالمخاطر المرتبطة بالذكاء الاصطناعي في بيئة العمل، حيث حذرت وزارة الموارد البشرية والتوطين، ضمن مادة نشرتها مجلة سوق العمل في عدد أكتوبر الماضي، من مخاطر استخدام أدوات الذكاء الاصطناعي في بيئة العمل، موجهة مجموعة من الإرشادات تدعو فيها المؤسسات والموظفين إلى عدم إدخال أي وثائق عمل رسمية أو بيانات شخصية حساسة داخل أدوات الذكاء الاصطناعي، تفادياً لخطر تسريب البيانات السرية.
وذكرت أنه على الرغم من الفوائد الكبيرة التي تقدمها أدوات الذكاء الاصطناعي في تسريع العمليات وتحسين الإنتاجية، فإنه يجب أن نأخذ في الاعتبار بعض المخاطر التي قد تنشأ من استخدامها.
ونبهت إلى أهمية حماية البيانات إذ يجب تجنب إدخال أي معلومات أو مستندات العمل والشخصية الحساسة في أدوات الذكاء الاصطناعي، حيث قد تؤدي هذه العملية إلى تسريب معلومات حساسة.
كما أكدت أهمية دقة المعلومات، موضحة أنه رغم أن أدوات الذكاء الاصطناعي قد توفر إجابات سريعة، فإن المعلومات المقدمة قد تكون غير دقيقة أو غير موثوقة، لذا ينبغي عدم الاعتماد عليها بشكل كامل في اتخاذ قرارات استراتيجية أو مشاركة معلومات رسمية.
فقدان وظائف
امتدت نتائج الإفراط وسوء استخدام منصات الذكاء الاصطناعي، إلى فقدان موظفين وظائفهم نتيجة اعتمادهم عليها في أداء مهام تتطلب دقة ومسؤولية مهنية. وكشف محامٍ لـ«الإمارات اليوم»، في تقرير سابق، عن استغنائه عن ثلاثة مستشارين بسبب مخالفات ارتبطت باستخدامهم تطبيقات الذكاء الاصطناعي في صياغة مذكرات الدفاع، وغيرها من ملفات القضايا.
حظر الذكاء الاصطناعي
حظرت شركة «سامسونغ إلكترونيكس» على موظفيها استخدام أدوات الذكاء الاصطناعي التوليدي الشهيرة، مثل برنامج «شات جي بي تي»، بعد اكتشافها تحميل موظفين لديها بيانات حساسة عبر البرنامج.