تقول شركات جوجل وأمازون وآبل إنَّ برامج المساعد الشخصي الافتراضي، التي تعمل بتقنية الذكاء الاصطناعي، تُسهِّل إتمام المهام على الهواتف الذكية أو في المنزل. لكن في شهر يونيو/حزيران 2019، لقّن زوجان من منطقة فاسمونستر في بلجيكا درساً غير متوقع حول كيفية عمل برامج المساعدة الافتراضية.
إذ تواصل تيم فيرهايدن، الصحفي بالإذاعة العامة البلجيكية (VRT)، مع الزوجين بخصوص ملفٍ صوتي غامض. وتفاجأا بسماع أصوات واضحة لابنهم وحفيدتهم، بعد أن التقط مساعد جوجل الافتراضي تلك الأصوات من أحد الهواتف الذكية.
وقال فيرهايدن إنَّه تمكن من الوصول لهذا الملف وألف ملفاً آخر من أحد المتعاقدين مع جوجل، وهو جزءٌ من فريق عملٍ من جميع أنحاء العالم يعمل على مراجعة بعض الملفات الصوتية التي يلتقطها مساعد جوجل الافتراضي من الأجهزة المختلفة، بما في ذلك السماعات الذكية، والهواتف، وكاميرات المراقبة.
واحتوى أحد الملفات الصوتية على عنوان الزوجين ومعلومات أخرى تفيد بأنهما جدّين.
اقرأ أيضاً
برامج المساعدة الشخصية تتنصت على المستخدمين
وغالبية التسجيلات التي استعرضتها إذاعة VRT، بما في ذلك التسجيل المشار إليه لزوجيّ فاسمونستر، كانت مقصودة.
إذ كان المستخدمون يسألون، على سبيل المثال، عن حالة الطقس أو فيديوهات جنسية.
واستعرض موقع WIRED النصوص المفرغة من الملفات الصوتية التي شاركتها VRT، التي نشرت تقريراً بنتائج تلك التسجيلات يوم الأربعاء، 10 يوليو/تموز.
وقالت هيئة الإذاعة البريطانية إنَّه في حوالي 150 تسجيلاً، بدا وكأن المساعد بدأ التشغيل بطريق الخطأ حين أساء سماع كلمة تنشيطه.
وبعض تلك التسجيلات هي عبارةٌ عن مقتطفات من مكالمات هاتفية ومحادثات خاصة.
تتضمن إعلان شخص ما عن حاجته إلى المرحاض، وبعض المناقشات حول موضوعات شخصية مثل: معدل نمو الطفل، وكيفية التئام الجروح، والحياة العاطفية لشخص ما.
وقالت جوجل إنَّها تُفرّغ عدداً من الملفات الصوتية التي يحصل عليها المساعد لتحسين تقنية المعالجة الصوتية الآلية، وفق ما نشر موقعWiredالأمريكي.
اقرأ أيضاً
خبراء الخصوصية يتخوفون من انتهاك واسع
لكن البيانات الحساسة في تلك التسجيلات -وأمثلة خوارزميات جوجل للاستماع بدون داع- تُثير قلق بعض الأشخاص، مثل العامل الذي شارك الملفات الصوتية مع VRT، وبعض خبراء الخصوصية.
وقال خبراء الخصوصية إنَّ ممارسات جوجل قد تنتهك قواعد الخصوصية في الاتحاد الأوروبي، والتي تعرف بالنظام الأوروبي العام لحماية البيانات الذي صدر خلال العام الماضي ويُوفِّر قواعد حماية خاصة للبيانات الحساسة، مثل المعلومات الطبية، ويُطالب بالشفافية حول كيفية جمع ومعالجة البيانات الشخصية.
وبدأت VRT الحديث إلى متعاقد جوجل في أعقاب تقرير وكالة Bloomberg الذي وصف كيف تُفرّغ الملفات الصوتية من مساعد أمازون المعروف باسم Alexa -بما في ذلك التسجيلات الصوتية غير مقصودة- من قِبَل طاقم عمل الشركة ومتعاقدين في مواقع مختلفة تتضمن: بوسطن، وكوستاريكا، والهند.
متعاقد جوجل يكشف عن تسجيلات حساسة
وقال متعاقد جوجل إنَّه يُفرغ حوالي ألف مقطع صوتي أسبوعياً بالألمانية والفلمنكية، وكانت تنتابه الشكوك بسبب حساسية بعض التسجيلات.
وكشف لمحطة VRT كيف يسجّل دخوله إلى إصدارٍ خاص من إحدى تطبيقات جوجل، يُسمى Crowdsource، للوصول إلى التسجيلات المسندة إليه.
وقال المتعاقد إنَّه في إحدى الحالات، فرّغ تسجيلاً صوتياً يظهر فيه صوت امرأة تتعرَّض للإيذاء.
وقال في الترجمة الإنجليزية على تقرير VRT المصور: "شعرت أنَّها تتعرض لعنفٍ جسدي. إنك تستمع إلى أشخاص حقيقيين، وليس مجرد أصوات بلا هوية".
وأضاف المتعاقد أنَّ جوجل لا تقدم إرشادات واضحة حول ما ينبغي على العاملين عمله في مثل تلك الحالات.
وقال المتحدث باسم جوجل، في بيان له، إنَّ الشركة فتحت تحقيقاً بسبب انتهاك المتعاقد لسياسات حماية البيانات.
وقال البيان إنَّ جوجل تستعين بـ"خبراء لغوين من مختلف أنحاء العالم" لتفريغ المحتوى الصوتي لمساعد الشركة الافتراضي، ولكنَّهم يُراجعون فقط حوالي 0.2 بالمئة من إجمالي التسجيلات غير المُرتبطة بحسابات المستخدمين.
وربما لا يحصل مراجعو جوجل على بيانات الحساب، ولكن يظل بإمكانهم سماع معلومات خاصة جداً تتعلق بالصحة الشخصية على سبيل المثال.
سياسات الخصوصية الحالية غير واضحة
ولا تتحدث سياسة خصوصية جوجل، وصفحات الخصوصية الخاصة بالمساعد الشخصي، عن استخدام الشركة عاملين لمراجعة الملفات الصوتية.
إذ تقول صفحات الخصوصية للمساعد Google Home إنَّ الشركة "تجمع البيانات التي تجعل خدماتنا أسرع، وأذكى، وأكثر صلة بالمستخدم، وأكثر إفادةً لك".
وتحت عنوان "هل يُسجّل Google Home كل محادثاتي؟"، تؤكّد تلك الصفحات على عدم خروج أي معلومات من الجهاز حتى يرصد المساعد الشخصي كلمة التنشيط -مُخفِيَةً بذلك حقيقة إمكانية رصده لكلمة التنشيط بطريق الخطأ.
أوروبا على جبهة التصدي
وقال مايكل فيالي، باحث السياسات التقنية في "معهد آلان تورينغ" بلندن: "لا تبدو تلك التسريبات متوافقةً مع متطلبات النظام الأوروبي العام لحماية البيانات، حتى بالنسبة للبيانات التي تعتبر غير حساسة".
وقالت مجموعةٌ من الجهات التنظيمية الوطنية لحماية البيانات، والمسؤولة عن تطبيق النظام الأوروبي العام لحماية البيانات، إنَّ الشركات ينبغي أن تتَّسِم بالشفافية بشأن البيانات التي تجمعها وكيفية معالجتها.
وأضاف فيالي: "ينبغي ان تكون الشركات واضحة تماماً بشأن ما تفعله، وكيفية فعله. وأعتقد أنَّ جوجل لم تفصح عن ذلك لأنه سيبدو مفزعاً للكثيرين".
وقال المتحدث باسم جوجل إنَّ الشركة ستراجع إمكانية تقديم شرح واضح وواف للمستخدمين، حول كيفية استخدام البيانات لتحسين التقنية الكلامية بالشركة.
وتقدَّم فيالي بشكوى إلى منظم البيانات الإيرلندي حول Siri، المساعد الشخصي الذكي من آبل، بحجة انتهاك الخدمة للنظام الأوروبي العام لحماية البيانات نتيجة عجز المستخدمين عن الوصول إلى التسجيلات التي يحتفظ بها المساعد الشخصي Siri.
وقال إنَّ آبل ردت على ذلك بأنَّ نظامها يتعامل مع البيانات بعنايةٍ بالغة، بحيث لا تحتوي الملفات الصوتية على أيّ بيانات شخصية.
وتسمح جوجل وأمازون للمستخدمين بمراجعة وحذف تسجيلاتهم، إذ تُتيح أمازون الآن للمستخدمين إصدار أمر الحذف: "Alexa احذف كل ما قلته اليوم"، لمحو سجل التسجيلات.
ولا تصف سياسات خصوصية أمازون كيفية تعامل المراجعين مع بعض تسجيلات Alexa الصوتية.
وعلى غرار جوجل، تقول صفحات الخصوصية إنَّ المساعد الشخصي Alexa لا يُسجّل كافة المحادثات، ولكنها لا توضح إن كانت تُسجّل محادثاتٍ دون قصد.
ولا توضح وثائق أبل كيفية سير عمليات المراجعة كذلك، لكن تقارير الحماية تقول إنَّ الشركة تحتفظ ببعض محتوى Siri الصوتي لأغراض "التحسين المستمر، وضمان الجودة".
ورفضت أمازون وآبل التعليق.