تقرير جدلي بشأن مشاهدة موظفي "أمازون" للقطات حميمية من منازل المستخدمين

كشف موظفون سابقون في "أمازون" أن نظام الأمن المنزلي القائم على الذكاء الاصطناعي الخاص بالشركة يرسل لقطات من اللحظات الخاصة للمستخدمين إلى العشرات من مدربي الخوارزميات، حيث يبعث جهاز الأمن المنزلي (Cloud Cam) التابع لـ"أمازون"، مقاطع فيديو بانتظام إلى الموظفين في رومانيا والهند، الذين يساعدون في "تدريب" خوارزميات الذكاء الاصطناعي، وفقا لخمسة موظفين حاليين وسابقين تحدثوا إلى "بلومبرغ". ويقوم الموظفون بمراجعة اللقطات من أجل مساعدة النظام على التمييز بين الحيوانات الأليفة والتهديد والدخيل الخبيث.

ولكن المشكلة الحقيقية الوحيدة تكمن في أن مستخدمي Cloud Cam، لا يدركون أنهم يخضعون للرقابة بعيون بشرية.

وفي الوقت نفسه، لا تذكر شروط وأحكام Cloud Cam شيئا حول قيام موظفين بشر بمشاهدة لقطات من كاميراتهم الأمنية، كما أصر ممثل من أمازون على أن المقاطع الوحيدة التي يستعرضها الموظفون يجري تقديمها طوعا لأغراض "استكشاف الأخطاء وإصلاحها". وبخلاف ذلك، "يمكن للعملاء فقط مشاهدة فيديوهاتهم"، وفقا لما قالته متحدثة في حديث مع "بلومبرغ"، مصرة على أن "أمازون تأخذ الخصوصية بجدية".

ورغم ذلك، زعم اثنان من الموظفين المبلغين عن المخالفات، أنه لم يكن هناك "مواطن الخلل الفنية الواضحة"، التي من شأنها الإشارة إلى أن المقاطع المصورة اختيرت لاستكشاف الأخطاء وإصلاحها، وشمل بعضها محتوى خاصا واضحا- على وجه التحديد (أزواج يمارسون الجنس)- والتي من غير المرجح أن يرغب العملاء في مشاركتها.

وأقرت "أمازون" بأنه يجري وضع علامات على المقاطع التي تشمل "محتوى غير لائق"، من أجل تجاهلها حتى لا تُستخدم في تدريب الذكاء الاصطناعي. ولكنها تتجنب شرح كيف انتهى الأمر بالمحتوى غير المناسب أمام المدربين إذا، كما زعمت المتحدثة، كانت جميع اللقطات المقدمة طوعية.

وهذه ليست المرة الأولى التي تتعرض فيها "أمازون" لانتقادات باستخدامها البشر سرا، "للمساعدة" في تدريب أجهزة الذكاء الاصطناعي الخاصة بها. ففي وقت سابق من هذا العام، تبين أن الآلاف من موظفي الشركة كانوا يستمعون إلى مقتطفات صوتية من المساعد الذكي "أليكسا"، دون علم العملاء. واضطرت الشركة إلى تحديث سياسات الخصوصية الخاصة بها مع إخلاء المسؤولية وتبسيط عملية حذف التسجيلات، الأمر الذي أدى إلى تهدئة بعض العملاء.

قد يهمك ايضا
كيف يستطيع الذكاء الاصطناعي التأثير على التعليم؟