تثير ميزة الذكاء الاصطناعي الجديدة الأكثر روعة من Microsoft المخاوف بشأن ذلك من المحتمل أن يتم إساءة استخدامه في الأيدي الخطأ.
عرضت الشركة هذا الأسبوع أداة جديدة تسمى Recall لأجهزة الكمبيوتر التي تعمل بنظام Windows والتي تعمل بمثابة “آلة زمنية” شخصية، مما يسمح للمستخدمين بسحب أي شيء كان موجودًا على الشاشة بسرعة، مثل المستندات والصور ومواقع الويب. إنه يختلف عن البحث عن الكلمات الرئيسية؛ تقوم الأداة بانتظام بحفظ لقطات شاشة لشاشة المستخدم وتخزينها مباشرة على الجهاز. ثم يستخدم الذكاء الاصطناعي لمعالجة البيانات وجعلها قابلة للبحث.
على سبيل المثال، إذا بحث شخص ما سابقًا عن فستان أخضر أو اسم متجر آيس كريم محلي، فيمكنه أن يطلب من الميزة “استدعاء” أي شيء في سجله تم عرضه على الشاشة.
على الرغم من أن ما يسمى بالبحث الدلالي يمثل خطوة كبيرة إلى الأمام بالنسبة للذكاء الاصطناعي، إلا أنه يأتي في وقت تتحرك فيه الصناعة بسرعة كبيرة ولا يزال المنظمون الحكوميون والشركات والمستهلكون يكتشفون كيفية استخدام التكنولوجيا بشكل مسؤول.
وقال جين جولبيك – أستاذ الذكاء الاصطناعي بجامعة ميريلاند والذي يركز على الخصوصية – إن ميزة الاستدعاء يمكن أن تشكل “كابوسًا” محتملاً إذا وقع الجهاز في الأيدي الخطأ.
وقالت: “قد تبقى الأشياء على جهازك، لكن هذا لا يعني أن الأشخاص لا يستطيعون الوصول إليها”. “لن يكون لديك خيار لحماية نفسك حتى إذا كنت تستخدم وضع التصفح المتخفي أو تمسح سجلك لأن الأداة لديها إمكانية الوصول إلى كل ما هو موجود على شاشتك.”
الهيئة التنظيمية المستقلة في المملكة المتحدة لحماية البيانات وحرية المعلومات، مكتب مفوض المعلومات (ICO)، وقالت لشبكة CNN إنها تحقق في الأداة “لفهم الضمانات المعمول بها لحماية خصوصية المستخدم”.
وقال مكتب ICO في بيان: “نتوقع من المؤسسات أن تكون شفافة مع المستخدمين بشأن كيفية استخدام بياناتهم وأن تعالج البيانات الشخصية فقط إلى الحد الذي يكون ضروريًا لتحقيق غرض محدد”.
ولم تستجب مايكروسوفت على الفور لطلب التعليق. وقال الرئيس التنفيذي ساتيا ناديلا قالت صحيفة وول ستريت جورنال في مقابلة قبل الإطلاق يوم الاثنين إن عمليات البحث على الويب يجب أن تتم فقط على متصفح الويب Microsoft Edge وأن لقطات الشاشة لا تترك جهاز الكمبيوتر الخاص بالمستخدم أبدًا.
وقال: “عليك أن تجمع بين أمرين: هذا هو جهاز الكمبيوتر الخاص بي، وهذا هو برنامج الاستدعاء الخاص بي – وكل ذلك يتم تنفيذه محليًا”.
وقال جيف بلابر، الرئيس التنفيذي لشركة أبحاث السوق CCS Insight، إن هذا يجعل المشكلة أقل إثارة للقلق.
وقال بلابر: “إن رد الفعل العنيف من قبل البعض تجاه هذه الميزة ليس مفاجئًا، ولكنه رد فعل مبالغ فيه نظرًا لأن البيانات تظل حصريًا على الجهاز ويتمتع المستخدم بالتحكم الكامل”.
يمكن لأي شخص أن يقرر ما إذا كان سيتم تشغيل الميزة أثناء عملية إعداد الجهاز ويمكنه تخصيص التطبيقات ومواقع الويب التي يمكن لـ Recall الوصول إليها وإدراجها في القائمة السوداء.
وقال: “تشير عناصر التحكم هذه إلى أن الميزة قد تم إنشاؤها مع مراعاة الأمان والخصوصية في جوهرها”. “لن يروق استدعاء الجميع للجميع، ولكن من المرجح أن تكون المنفعة المقدمة كبيرة.”
لكن جولبيك أشار إلى الأوقات التي قد لا تكون فيها هذه الحماية كافية، مثل صحفي في دولة معادية، أو شخص يحاول الخروج من علاقة مسيئة، أو شخص يبحث عن معلومات طبية حساسة، أو موظف يريد رئيسه تعقبه. إنها تعتقد أن المشكلات المتعلقة بالأداة من المرجح أن تؤثر على مكان العمل بشكل أكبر.
“نحن نعلم أن الوظائف تراقب ما نقوم به على أجهزتهم، ولكن الكثير من الأشخاص يقومون بأشياء شخصية على كمبيوتر العمل الخاص بهم وسيتم أرشفة كل ذلك وسيكون مرئيًا لقسم تكنولوجيا المعلومات، حتى لو ظل على الجهاز فقط، ” هي اضافت.
وقال جولبيك إن التكنولوجيا، على الرغم من فوائدها، يتم تطويرها في كثير من الأحيان دون النظر في الاستخدامات الضارة.
وقالت: “ما رأيناه على مدار الخمسة عشر عامًا الماضية هو أن كل حالة من حالات الاستخدام الضار المحتملة هذه تؤتي ثمارها بطريقة أو بأخرى”. “سيرغب الأشخاص في استخدام هذه الميزة الرائعة دون فهم المخاطر المتعلقة بالخصوصية – حيث سيكون هناك سجل دائم لكل ما تفعله.”
وقد ظهرت في الماضي ردود فعل مماثلة تجاه ميزات مثل كلمات المرور البيومترية، مثل بصمات الأصابع، والتعرف على الوجه، ومسح قزحية العين. وقال بلابر إنه للتغلب على بعض المخاوف الأولية، ستحتاج مايكروسوفت وشركاؤها إلى إثبات قيمة المنتج وأمانه وخصوصيته في العالم الحقيقي.
ومع ذلك، تعتقد ميشيلا مينتينج، مديرة الأبحاث الأولى في ABI Research، أن هذه الميزة تمثل “خطوة إلى الوراء” فيما يتعلق بالخصوصية.
وقالت: “إن الحجة القائلة بأن المتسللين يحتاجون إلى الوصول المادي حتى يتمكنوا من التلاعب ببرنامج Recall هي حجة قصيرة النظر في أحسن الأحوال، لأن هناك الكثير من الطرق البارعة للغاية التي يمكن للجهات الفاعلة في مجال التهديد استغلال مثل هذه الأداة القيمة”. “كل ما يتطلبه الأمر هو الوقت والجهد لإيجاد طريقة.”
