كشفت شركة "إنفيديا" الأمريكية عن منصة أمنية جديدة تهدف إلى تعزيز سلامة وكلاء الذكاء الاصطناعي ومنعهم من تجاوز الحدود والصلاحيات المحددة لهم.
وأوضحت الشركة أن منصة "أوبن إيجنت سيفتي" (Open Agent Safety Platform) تضم برمجية "أوبن شيل" (OpenShell) مفتوحة المصدر، التي تضع حدودًا آمنة لعمل وكلاء الذكاء الاصطناعي، إلى جانب نظام "سينتري" (Sentry) للمراقبة الأمنية المستقلة.
وأشارت إلى أن المنصة تأتي في ظل تزايد الاهتمام بسلامة أنظمة الذكاء الاصطناعي المتقدمة، والحاجة إلى توفير أدوات تتيح مزيدًا من التحكم في عمل الوكلاء وصلاحياتهم.
وتتيح برمجية "أوبن شيل" للمطورين التحقق من امتلاك وكلاء الذكاء الاصطناعي الصلاحيات اللازمة لإنجاز مهامهم دون تجاوزها.
ويتولى نظام "سينتري" مراقبة نشاط وكلاء الذكاء الاصطناعي باستمرار بصورة مستقلة، ويمكنه عزل الوكيل وإيقافه خلال أجزاء من الثانية إذا حاول تجاوز الحدود المحددة له.
