Connect with us

تقنية

يمكن لنظام الأمان الجديد من Microsoft اكتشاف الهلوسة في تطبيقات الذكاء الاصطناعي لعملائها

Published

on

يمكن لنظام الأمان الجديد من Microsoft اكتشاف الهلوسة في تطبيقات الذكاء الاصطناعي لعملائها

تقول سارة بيرد، مديرة المنتجات الرئيسية في مايكروسوفت في مجال الذكاء الاصطناعي المسؤول الحدود وفي إحدى المقابلات، صمم فريقها بعض ميزات الأمان الجديدة التي سيكون من السهل استخدامها لعملاء Azure الذين لا يستأجرون فرقًا من الفرق الحمراء لاختبار خدمات الذكاء الاصطناعي التي قاموا بإنشائها. مايكروسوفت يقول أن هذه الأدوات التي تدعمها LLM يمكنها تحديد نقاط الضعف المحتملةتتبع الهلوسة “المقبولة ولكن غير المدعومة” واحظر التوجيهات الضارة في الوقت الفعلي لعملاء Azure AI الذين يعملون مع أي نموذج مستضاف على النظام الأساسي.

وتقول: “نحن نعلم أنه ليس كل شخص لديه خبرة عميقة في هجمات الحقن الفورية أو محتوى الكراهية، لذلك يقوم نظام التقييم بإنشاء المبادئ التوجيهية اللازمة لمحاكاة هذه الأنواع من الهجمات. ويمكن للعملاء بعد ذلك الحصول على النتيجة ورؤية النتائج”.

ثلاث ميزات: الدروع السريعةالذي يمنع الحقن الفوري أو التعليمات الخبيثة من المستندات الخارجية التي ترشد العارضات إلى مخالفة تدريبهن؛ تحديد الأراضيالذي يجد ويمنع الهلوسة. و تقييمات السلامة، والتي تعمل على تقييم نقاط الضعف في النموذج، متاحة الآن للمعاينة على Azure AI. ستتوفر قريبًا ميزتان إضافيتان تستهدفان النماذج للحصول على مخرجات آمنة واتباع الإرشادات الخاصة بوضع علامة على المستخدمين الذين قد يتسببون في مشاكل.

سواء كان المستخدم يكتب مطالبة أو كان النموذج يعالج بيانات جهة خارجية، فسيقوم نظام المراقبة بتقييمها لمعرفة ما إذا كان يقوم بتشغيل كلمات محظورة أو يحتوي على مطالبات مخفية قبل أن يقرر إرسالها إلى النموذج للإجابة. يقوم النظام بعد ذلك بفحص استجابة النموذج والتحقق مما إذا كان النموذج قد قام بتحريف معلومات غير موجودة في المستند أو الإرشادات.

في حالة صور Google Gemini، كان للمرشحات التي تم تصميمها لتقليل التحيز تأثيرات غير مقصودة، وهو مجال تقول Microsoft إن أدوات Azure AI الخاصة بها ستمكن من التحكم بشكل أكثر تخصيصًا. تعترف بيرد بوجود قلق من أن مايكروسوفت والشركات الأخرى قد تقرر ما هو مناسب أو غير مناسب لنماذج الذكاء الاصطناعي، لذلك أضاف فريقها طريقة لعملاء Azure لتغيير تصفية خطاب الكراهية أو العنف الذي يراه النموذج ويحظره.

في المستقبل، مستخدمي Azure يمكن أيضًا الحصول على تقرير المستخدمين التي تحاول تنشيط المخرجات غير الآمنة. يقول بيرد إن هذا يسمح للمسؤولين بمعرفة المستخدمين الذين هم من موظفي الفريق الأحمر ومن قد يكونون أشخاصًا لديهم نوايا خبيثة أكثر.

يقول بيرد إن ميزات الأمان “مدمجة على الفور” في GPT-4 والنماذج الشائعة الأخرى مثل Llama 2. ومع ذلك، نظرًا لأن حديقة نماذج Azure تحتوي على العديد من نماذج الذكاء الاصطناعي، فقد يحتاج مستخدمو الأنظمة مفتوحة المصدر الأصغر حجمًا والأقل استخدامًا إلى الإشارة يدويًا ميزات السلامة للنماذج.

Continue Reading
Click to comment

Leave a Reply

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

تقنية

كان لاعبو Helldivers 2 على حق: درع Warbond الجديد Ground Breaker لديه مكافأة سلبية خاطئة، لكن Arrowhead يقول إنه سيتم إصلاحه قريبًا

Published

on

كان لاعبو Helldivers 2 على حق: درع Warbond الجديد Ground Breaker لديه مكافأة سلبية خاطئة، لكن Arrowhead يقول إنه سيتم إصلاحه قريبًا

نعم، كان من المفترض أن يكون درع CE-27 Ground Breaker الجديد الذي تم إصداره كجزء من أحدث إصدار من Helldivers 2 Warbond مزودًا بعناصر سلبية مختلفة، ويعمل المطورون في Arrowhead بالفعل على تصحيح لإصلاح الأمور.

“فيما يتعلق بدرع CE-27 Ground Breaker، نحن على دراية بوجود خلط طفيف أدى إلى تشغيله باستخدام مجموعة الأدوات المساعدة السلبية بدلاً من مجموعة الهندسة السلبية كما هو معلن عنها،” كما يقول مدير المجتمع Spitz في قسم إعلان. “يجب تغيير هذا مرة أخرى في الإصلاح العاجل القادم – يرجى وضع ذلك في الاعتبار إذا كان هذا الدرع أحد الأسباب التي تجعلك تفكر في شراء warbond الجديد!”

Continue Reading

تقنية

تريد Epic فتح متجر Google Play على مصراعيه

Published

on

تريد Epic فتح متجر Google Play على مصراعيه

في شهر ديسمبر الماضي، فازت Epic Games بقضية مكافحة الاحتكار المرفوعة ضد Google. وجدت هيئة المحلفين أن شركة Google احتكرت بشكل غير قانوني الفوترة داخل التطبيق وتوزيع التطبيقات على أجهزة Android، وأنها انخرطت في ممارسات مناهضة للمنافسة مع بعض شركات الألعاب والشركات المصنعة للأجهزة.

في ذلك الوقت، لم يكن من الواضح ما الذي فازت به شركة Epic بالفعل، حيث لم يتم وصف الأدوية. ال فورتنايت قدمت الشركة المصنعة الآن أمرًا قضائيًا دائمًا ضد Google يوضح بالتفصيل ما تريده. باختصار، تريد Epic أن يكون متجر Play مفتوحًا على نطاق واسع تقريبًا.

يعتمد الترتيب على ثلاث نقاط أساسية، ملحمة تمت الإشارة إليه في مشاركة المدونة. أولاً، تعتقد Epic أنه يجب على Google السماح للمستخدمين بتنزيل التطبيقات من أي مكان يريدون دون أن يعيق ذلك طريقهم. وهذا يعني أن الأشخاص يجب أن يكونوا قادرين على إضافة تطبيقات إلى أجهزة Android بنفس الطريقة التي يمكنهم بها ذلك من جهاز الكمبيوتر – من أي متجر تطبيقات أو من الويب.

تريد Epic منع Google من تخويف الأشخاص من تنزيل التطبيقات من الإنترنت (على الرغم من أنه من الجيد السماح لـ Google بحظر البرامج الضارة). كما تريد أيضًا منع الشركة من العمل مع شركات الاتصالات والشركات المصنعة للهواتف للحد من الخيارات المتاحة للمستهلكين لتنزيل التطبيقات. من بين أمور أخرى، تريد Epic حظر القيود المفروضة على متاجر التطبيقات المثبتة مسبقًا. لذلك، إذا تم تأييد الأمر الزجري، فقد نرى أجهزة Android مثبتة مسبقًا بتطبيق Epic Games Store في المستقبل.

ثانيًا، تقول Epic أنه يجب على Google السماح للمطورين والمستخدمين بحرية اختيار كيفية تقديم عمليات الشراء داخل التطبيق ودفع ثمنها، “بدون رسوم وقيود مانعة للمنافسة”. وتجادل بأن جوجل يجب أن تسمح للمطورين بتضمين روابط من تطبيقاتهم إلى مواقع الويب، حيث قد يتمكنون من تقديم خصومات لأنهم سيتحايلون على قطع جوجل للمدفوعات داخل التطبيق من خلال متجر بلاي.

بدأت Epic معركتها القانونية مع Google (وApple) في عام 2020 بالتصريح فورتنايت يمكن للاعبي الأجهزة المحمولة توفير المال عن طريق شراء عملة V-bucks مباشرة من Epic. وبموجب الأمر القضائي المقترح، سيتم منع Google من محاولة منع خيارات الدفع البديلة من خلال برامج الامتثال مثل فواتير اختيار المستخدم.

الهدف الثالث للأمر القضائي المقترح من Epic هو منع Google من الانتقام منها (أو أي تطبيق أو مطور) لتبني ممارسات متجر التطبيقات. وكتبت Epic: “لدى Google تاريخ من الامتثال الضار وحاولت التحايل على التشريعات واللوائح المصممة للتحكم في سيطرتها المناهضة للمنافسة على أجهزة Android”. “يسعى أمرنا المقترح إلى منع Google من تكرار أساليب سوء النية السابقة وفتح أجهزة Android للمنافسة والاختيار لجميع المطورين والمستهلكين.”

الأمر – الطلب هناك المزيد من التفاصيل حول متطلبات Epic، بما في ذلك السماح لشركة Google بمنتجاتها وخدماتها (مثل Android APIs) من متجر Play. لمدة ست سنوات، تريد Epic من Google السماح لمتاجر تطبيقات الطرف الثالث بالدخول إلى متجر Play بدون رسوم، والوصول إلى مكتبة تطبيقات متجر Play. وهذا يعني أيضًا السماح لمتاجر تطبيقات الطرف الثالث بمعالجة تحديثات تطبيقات متجر Play. تريد Epic من Google أن تعين لجنة امتثال للتأكد من امتثالها أيضًا للأمر الزجري.

قد لا نضطر إلى الانتظار طويلاً لمعرفة عدد ملفات Epic التي تنتهي في المحكمة. سوف جوجل الرد على العرض بحلول 2 مايو وتم تحديد جلسة استماع بشأن الأمر التقييدي في 23 مايو.

وقال متحدث باسم جوجل في بيان لـ Engadget: “يُظهر تقديم Epic أمام المحكمة الفيدرالية الأمريكية مرة أخرى أنها تريد ببساطة الحصول على فوائد Google Play دون الحاجة إلى دفع ثمنها. سنواصل استئناف الحكم، لأن Android هو منصة متنقلة مفتوحة تواجه منافسة شرسة من متجر تطبيقات Apple، بالإضافة إلى متاجر التطبيقات على أجهزة Android وأجهزة الكمبيوتر الشخصية ووحدات التحكم في الألعاب.

وتضطر جوجل إلى إجراء العديد من التغييرات المماثلة في الاتحاد الأوروبي بسبب قانون الأسواق الرقمية الخاص بالكتلة. ومع ذلك، فإن الشركة الأم Alphabet وApple تخضعان بالفعل للتحقيق بسبب مخاوف من عدم سماحهما للمطورين بتجاوز متجر Play ومتجر التطبيقات.

وفي الوقت نفسه، ونتيجة لـ DMA، تخطط Epic لإصدار متجر تطبيقات الأجهزة المحمولة لنظامي التشغيل iOS وAndroid في الاتحاد الأوروبي في وقت لاحق من هذا العام. كما أنها لا تزال تقاتل شركة Apple بشأن مدفوعات الطرف الثالث في الولايات المتحدة.

التحديث 12/4 الساعة 5:55 مساءً بالتوقيت الشرقي: تمت إضافة بيان جوجل.

Continue Reading

تقنية

يجعل OpenAI ChatGPT أكثر مباشرة وأقل إسهابًا

Published

on

يجعل OpenAI ChatGPT أكثر مباشرة وأقل إسهابًا

رصيد الصورة: نيكوس بيكياريديس / نور فوتو / جيتي إيماجيس

تلقى ChatGPT، برنامج الدردشة الآلي الفيروسي المدعوم بالذكاء الاصطناعي التابع لشركة OpenAI، ترقية كبيرة.

أعلنت OpenAI اليوم أن مستخدمي ChatGPT المتميزين – العملاء الذين يدفعون مقابل ChatGPT Plus أو Team أو Enterprise – يمكنهم الآن الاستفادة من نسخة محدثة ومحسنة من GPT-4 Turbo، أحد النماذج التي تدعم تجربة ChatGPT التحادثية.

يجلب هذا النموذج الجديد (“gpt-4-turbo-2024-04-09”) معه تحسينات في الكتابة والرياضيات والتفكير المنطقي والبرمجة، كما تدعي OpenAI، بالإضافة إلى قاعدة معرفية أكثر حداثة. تم تدريبه على البيانات المتاحة للجمهور حتى ديسمبر 2023، على عكس الإصدار السابق من GPT-4 Turbo المتاح على ChatGPT، والذي كان له موعد نهائي في أبريل 2023.

“عند الكتابة باستخدام ChatGPT [with the new GPT-4 Turbo]ستكون الإجابات أكثر مباشرة وأقل لفظية وستستخدم لغة محادثة أكثر،” كتب OpenAI في منشور على X.

يأتي تحديث ChatGPT – الذي يتبع إطلاق GA يوم الثلاثاء لنماذج جديدة في OpenAI API، ولا سيما GPT-4 Turbo مع Vision، والذي يضيف إمكانات فهم الصورة إلى GPT-4 Turbo للنص عادةً – بعد أسبوع غير ممتع لـ OpenAI.

تقرير كشفت The Intercept أن Microsoft قدمت نموذج OpenAI's DALL-E لتحويل النص إلى صورة كأداة في ساحة المعركة للجيش الأمريكي. و أيضا، حسب وفقًا لمقال في The Information، قامت شركة OpenAI مؤخرًا بطرد اثنين من الباحثين – بما في ذلك حليف كبير العلماء إيليا سوتزكفير، الذي كان من بين أولئك الذين ضغطوا من أجل الإطاحة بالرئيس التنفيذي سام ألتمان في أواخر العام الماضي – بسبب تسرب مزعوم.

Continue Reading

Trending