Connect with us

تقنية

يمكن لنظام الأمان الجديد من Microsoft اكتشاف الهلوسة في تطبيقات الذكاء الاصطناعي لعملائها

Published

on

يمكن لنظام الأمان الجديد من Microsoft اكتشاف الهلوسة في تطبيقات الذكاء الاصطناعي لعملائها

تقول سارة بيرد، مديرة المنتجات الرئيسية في مايكروسوفت في مجال الذكاء الاصطناعي المسؤول الحدود وفي إحدى المقابلات، صمم فريقها بعض ميزات الأمان الجديدة التي سيكون من السهل استخدامها لعملاء Azure الذين لا يستأجرون فرقًا من الفرق الحمراء لاختبار خدمات الذكاء الاصطناعي التي قاموا بإنشائها. مايكروسوفت يقول أن هذه الأدوات التي تدعمها LLM يمكنها تحديد نقاط الضعف المحتملةتتبع الهلوسة “المقبولة ولكن غير المدعومة” واحظر التوجيهات الضارة في الوقت الفعلي لعملاء Azure AI الذين يعملون مع أي نموذج مستضاف على النظام الأساسي.

وتقول: “نحن نعلم أنه ليس كل شخص لديه خبرة عميقة في هجمات الحقن الفورية أو محتوى الكراهية، لذلك يقوم نظام التقييم بإنشاء المبادئ التوجيهية اللازمة لمحاكاة هذه الأنواع من الهجمات. ويمكن للعملاء بعد ذلك الحصول على النتيجة ورؤية النتائج”.

ثلاث ميزات: الدروع السريعةالذي يمنع الحقن الفوري أو التعليمات الخبيثة من المستندات الخارجية التي ترشد العارضات إلى مخالفة تدريبهن؛ تحديد الأراضيالذي يجد ويمنع الهلوسة. و تقييمات السلامة، والتي تعمل على تقييم نقاط الضعف في النموذج، متاحة الآن للمعاينة على Azure AI. ستتوفر قريبًا ميزتان إضافيتان تستهدفان النماذج للحصول على مخرجات آمنة واتباع الإرشادات الخاصة بوضع علامة على المستخدمين الذين قد يتسببون في مشاكل.

سواء كان المستخدم يكتب مطالبة أو كان النموذج يعالج بيانات جهة خارجية، فسيقوم نظام المراقبة بتقييمها لمعرفة ما إذا كان يقوم بتشغيل كلمات محظورة أو يحتوي على مطالبات مخفية قبل أن يقرر إرسالها إلى النموذج للإجابة. يقوم النظام بعد ذلك بفحص استجابة النموذج والتحقق مما إذا كان النموذج قد قام بتحريف معلومات غير موجودة في المستند أو الإرشادات.

في حالة صور Google Gemini، كان للمرشحات التي تم تصميمها لتقليل التحيز تأثيرات غير مقصودة، وهو مجال تقول Microsoft إن أدوات Azure AI الخاصة بها ستمكن من التحكم بشكل أكثر تخصيصًا. تعترف بيرد بوجود قلق من أن مايكروسوفت والشركات الأخرى قد تقرر ما هو مناسب أو غير مناسب لنماذج الذكاء الاصطناعي، لذلك أضاف فريقها طريقة لعملاء Azure لتغيير تصفية خطاب الكراهية أو العنف الذي يراه النموذج ويحظره.

في المستقبل، مستخدمي Azure يمكن أيضًا الحصول على تقرير المستخدمين التي تحاول تنشيط المخرجات غير الآمنة. يقول بيرد إن هذا يسمح للمسؤولين بمعرفة المستخدمين الذين هم من موظفي الفريق الأحمر ومن قد يكونون أشخاصًا لديهم نوايا خبيثة أكثر.

يقول بيرد إن ميزات الأمان “مدمجة على الفور” في GPT-4 والنماذج الشائعة الأخرى مثل Llama 2. ومع ذلك، نظرًا لأن حديقة نماذج Azure تحتوي على العديد من نماذج الذكاء الاصطناعي، فقد يحتاج مستخدمو الأنظمة مفتوحة المصدر الأصغر حجمًا والأقل استخدامًا إلى الإشارة يدويًا ميزات السلامة للنماذج.

Continue Reading
Click to comment

Leave a Reply

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

تقنية

كيف أصلحت Google الخرق الأمني ​​لحساب Android TV؟

Published

on

كيف أصلحت Google الخرق الأمني ​​لحساب Android TV؟

ترك خلل في نظام التشغيل Android TV بابًا خلفيًا مفتوحًا للمستخدمين للوصول، من بين أمور أخرى، إلى صندوق البريد الوارد لمالك التلفزيون، لكن Google تطرح إصلاحًا، وقد أكدت الشركة الآن ماهية هذا الإصلاح.

يقوم نظام التشغيل Android TV، مثل Android الموجود على هاتفك، بتسجيل الدخول إلى حساب Google على مستوى النظام. يسمح هذا لتطبيقات معينة، مثل Google Chrome، بتسجيل الدخول إلى حساب Google هذا دون الحاجة إلى كلمة مرور. وهذا حسب التصميم ولا يمثل مشكلة عادةً، حيث تحتوي الهواتف الذكية والأجهزة اللوحية عادةً على رقم تعريف شخصي أو كلمة مرور أو قياسات حيوية تحمي التطبيقات الموجودة على جهازك.

ومع ذلك، ليس هذا هو الحال مع Android TV وGoogle TV.

הודגש לראשונה מוקדם יותר השנה ולאחר מכן הודגש בדו”ח השבוע ששחקנים זדוניים יכולים, בתיאוריה, להעמיס בצד את Google Chrome על מכשיר מערכת ההפעלה אנדרואיד TV ואז להשתמש בו כדי לגשת לחשבון Google של הבעלים של הטלוויזיה. זה לא כל כך ניצול אבטחה, אלא פרצה أن مؤلف من الصعب سحبه، طالما أنك تعرف كيفية الوصول إلى APK وتحميل التطبيق.

جوجل، في بيان ل 404 وسائل الإعلاملقد أكدوا بالفعل أنه تم طرح إصلاح على Google TV وAndroid TV لإصلاح المشكلة، لكنهم لم يحددوا ما هو هذا الإصلاح.

لم تعد معظم أجهزة Google TV التي تعمل بأحدث إصدارات البرنامج تسمح بهذا السلوك الموصوف. نحن بصدد طرح إصلاح لبقية الأجهزة.

يتحدث الي 9to5Googleعرضت الشركة المزيد من السياق.

من خلال الاستمرار في استخدام Google TV وAndroid TV، لن يؤدي التحميل الجانبي لـ Google Chrome إلى استخدام الرمز المميز لتسجيل الدخول إلى حساب Google تلقائيًا بعد الآن عند الوصول إلى Gmail أو Google Drive على الجهاز.

لذلك، على الرغم من أنه ربما لن يمنع الجميع وسيلة للوصول إلى الحساب من خلال التلفزيون غير المؤمن، وهذا من شأنه أن يقطع شوطا طويلا في منع الوصول إلى بيانات الحساب الأكثر حساسية.

وأضافت جوجل (بعد نشر هذا المنشور) أن التحديث يتم طرحه عبر تحديث التطبيق، وبالتالي فإن الأجهزة القديمة ستتلقى التغيير أيضًا.

المزيد على تلفزيون أندرويد:

اتبع بن: تويتر/X, الأسلاكو انستغرام

FTC: نحن نستخدم الروابط التابعة التلقائية التي تدر دخلاً. كثير.

Continue Reading

تقنية

النظام الجديد للعبة Helldivers 2 يجبر اللاعبين على اتخاذ خيار صعب

Published

on

النظام الجديد للعبة Helldivers 2 يجبر اللاعبين على اتخاذ خيار صعب

جديد الغواصون الجحيم 2 لقد وصلت الدعوة الكبيرة، وإذا كنت تعتقد أن التحدي السابق الذي واجهنا كان صعبًا للتعامل معه، فإن التحدي التالي أكثر صعوبة – ولكن لسبب مختلف. واحدة من أكبر المفاجآت لهذا العام حتى الآن، تستمر اللعبة التعاونية الرائعة في التقدم من قوة إلى قوة مع أحدث إصدار من Warbond وقطرات منتظمة من العتاد الجديد. لكن علينا الآن أن نتخذ خيارًا صعبًا، ولا يمكن حفظ سوى خيار واحد من الخيارات.

يرسلنا التحديث الأخير للعبة Helldivers 2 إلى قطاع Lacaille الذي تسيطر عليه الآلات، حيث هدفنا هو تحرير كوكبي Choohe وPenta. من المفترض أن تستمر الدعوة الكبرى الجديدة للعبة التعاونية، والتي تتطلب حملات ناجحة في كلا الموقعين، لمدة ثلاثة أيام، لذلك سيكون لدينا حتى يوم الاثنين 29 أبريل لإكمال المهمة. التطور هو أنه يتم تطوير حيل جديدة في Helldivers 2 على كل كوكب، ولن يكون لدينا سوى فرصة لإنقاذ واحد منهم من الخسارة.

“Grand Order: Helldivers، حان الوقت للاختيار بين Choohe للإصدار أو Penta”، كتب فريق Arrowhead Game Studios عبر حساب X الرسمي للعبة (Twitter) وDiscord. “اعتمادًا على اختيارك، ستحصل على الألغام المضادة للدبابات MD-17 أو قاذفة الصواريخ RL-77. (وسوف تنقذ المدنيين. لا تنس المدنيين.)”.

يؤكد المنشور أيضًا أن “الخدعة على الكوكب الأول المحرر فقط هي التي يمكن إنقاذها”، لذا لا تفكر في أننا سنحصل على كلتا المكافأتين بمجرد نجاح إضفاء الطابع الديمقراطي على الكواكب. تبدو الرسالة داخل اللعبة أكثر تفاؤلاً بعض الشيء، حيث تشير إلى أنه “من المحتمل ألا يتم إنقاذ سوى المدنيين والأسلحة على الكوكب الأول المحررين”.

إنه خيار صعب. يبدو أن Airburst Rocket Launcher (الذي تم تصنيعه الآن في Penta) هو المرشح الأوفر حظًا ليكون الخيار المتفق عليه في المجتمع، خاصة في ضوء انتشار البوارج الآلية هذه الأيام، وسأعترف بأنني أميل إلى تفضيل المناورات التفاعلية على المواضع الاستباقية، لأنها أكثر مرونة قليلاً.

ومع ذلك، فإن الوحدات المدرعة الأثقل يمكن أن تكون مخيفة للغاية، وإذا كانت الألغام المضادة للدبابات (التي يتم اختبارها على Choohe) قوية بما يكفي للتعامل معها، فيمكن أن يجعلها إضافة مرحب بها للغاية إلى أفضل عتاد لديك في Helldivers 2، خاصة بالنسبة للاعبين. مهمات دفاعية. يوجد بالفعل عدد لا بأس به من أسلحة Helldivers 2 القادرة على التعامل مع الإرهاب المحمول جواً، لذلك ربما لا نحتاج إليها بشكل عاجل.

يوتيوب الصورة المصغرة

الوقت وحده هو الذي سيحدد ما سيختاره اللاعبون، وبدون الخبرة يكون الأمر بمثابة مقامرة على أي حال. من المحتمل أنه، مع مرور الوقت الكافي، سنتمكن في النهاية من فتح الخيار الآخر أيضًا – يمكن دائمًا تكرار الأبحاث المفقودة، ويمكن إعادة جمع الإمدادات – ولكن في الوقت الحالي، سيتعين علينا الاكتفاء بما لدينا.

هل تتطلع للانضمام إلى القتال؟ سيساعدك دليلنا لأفضل درع Helldivers 2 على الحفاظ على سلامتك، إلى جانب جميع التفاصيل المتعلقة بـ Helldivers 2 Warbond الجديد والانفجار التجريبي وكل شيء يمكنك فتحه إذا اخترت الحصول عليه.

يمكنك أيضًا متابعتنا على أخبار جوجل للحصول على أخبار ومراجعات وأدلة ألعاب الكمبيوتر اليومية، أو احصل على منتجاتنا PCGN تعقب المعاملات اكتب بعض الحقائق لنفسك.

Continue Reading

تقنية

Stellar Blade – جميع أزياء Eve وبدلات النانو

Published

on

Stellar Blade – جميع أزياء Eve وبدلات النانو

قد تتلقى GameSpot إيرادات من الشراكات التابعة والشراكات الإعلانية لمشاركة هذا المحتوى والمشتريات من خلال الروابط.

Continue Reading

Trending