شكّل تقرير ميركور الأخير بمثابة جرس إنذار هام لمشتري حلول الذكاء الاصطناعي في المؤسسات. فقد أكدت ميركور وقوع حادثة أمنية مرتبطة بهجوم على سلسلة التوريد من شركة LiteLLM، وأفادت التقارير بأن شركة Meta أوقفت العمل مع الشركة مؤقتًا ريثما تستمر التحقيقات. بالنسبة لقادة الأمن والمشتريات والذكاء الاصطناعي، فإن الدرس واضح: لا يمكن أن يقتصر تقييم الموردين على المستوى الإداري فقط.
1. من أين تأتي بياناتك، وكيف تتم إدارتها؟
اطلب تفاصيل محددة حول مصادر البيانات، والموافقة، والترخيص، ومصدرها، والاحتفاظ بها، وحذفها. إذا كانت الإجابة غامضة، فهذه علامة تحذيرية.
تؤكد التوجيهات العامة التي أصدرها شايب بشأن جمع بيانات الذكاء الاصطناعي على المصدر والتوثيق وضمانات الخصوصية وممارسات الجمع المنظمة.
2. ما هي أدوات الطرف الثالث والأدوات مفتوحة المصدر المدمجة في سير عملك؟
هذا الأمر أكثر أهمية الآن لأن شركة ميركور ربطت حادثتها علنًا بشركة لايت إل إل إم ووصفت نفسها بأنها واحدة من آلاف الشركات المتضررة من هجوم على سلسلة التوريد.
3. كيف تتحكم في الوصول إلى مجموعات البيانات الحساسة وأصول التقييم؟
ينبغي أن تكون قيود الوصول والتشفير وتسجيل التدقيق وفصل البيانات من المتطلبات الأساسية.
هل تحتاج إلى مورد مصمم لضمان ثقة المؤسسات؟
4. كيف تبدو عملية ضمان الجودة لديكم في الواقع؟
ابحث عن ممارسات قابلة للقياس مثل المراجعة متعددة المستويات، ومجموعات البيانات الذهبية، والتحكيم، وحلقات التصحيح المنظمة.
يدعم موقف شايب العلني بشأن جودة العنصر البشري في عملية التعلم وخدمات بيانات التدريب على درجة الماجستير في القانون فكرة أن الجودة يجب أن تُصمم في سير العمل، لا أن تُضاف كفحص نهائي.
5. كيف تتعامل مع الحالات الشاذة والأحكام الغامضة؟
في مجال الذكاء الاصطناعي المؤسسي، لا يمكن أتمتة كل شيء بأمان. فبعض المهام لا تزال تتطلب مراجعة بشرية حساسة للمجال.
تؤكد توجيهات شيب العامة بشأن HITL على ضرورة وضع البشر في أعلى نقاط التأثير في سير العمل، حيث يكون الحكم والمساءلة في غاية الأهمية.
6. ما الدليل الذي لديك على الامتثال والنضج الأمني؟
7. ماذا يحدث إذا تغيرت ملكيتك أو شراكاتك أو أولوياتك الاستراتيجية؟
هنا تبرز أهمية الحياد وحماية المستهلك. ينبغي على المشترين الاستفسار عن كيفية حماية بياناتهم، وما إذا كانت حوافز البائع متوافقة مع مصالحهم، وكيف تتم حماية مصالحهم على المدى الطويل.
يجادل مقال شايب العام حول حيادية البيانات بأن الحيادية مهمة لأن العملاء يحتاجون إلى مقدمي خدمات تتوافق حوافزهم مع الثقة، وليس مع أجندات المنتجات المتنافسة.
الوجبات الجاهزة النهائية
لا ينبغي التعامل مع موردي بيانات الذكاء الاصطناعي كمزودي خدمات قابلين للاستبدال. فهم مرتبطون ارتباطًا وثيقًا بجودة النماذج، وحماية الملكية الفكرية، واستمرارية العمليات، وثقة المؤسسات. الشريك الأمثل ليس فقط من يُقدم الخدمة بأسرع وقت، بل من يُظهر كيفية إدارة البيانات، وتأمين سير العمل، وقياس الجودة، وحماية مصالح العملاء. وتنسجم رسائل Shaip العامة على موقعها الإلكتروني تمامًا مع هذا المبدأ القائم على الثقة أولًا.
هل تبحث عن شريك يجمع بين جودة البيانات والتقييم البشري والحوكمة الجاهزة للمؤسسات؟
استكشف خدمات بيانات الذكاء الاصطناعي وحلول إدارة التعلم القانوني والأمن والامتثال التي تقدمها شركة Shaip.
ما هي العناية الواجبة لموردي الذكاء الاصطناعي؟
إن عملية العناية الواجبة لموردي الذكاء الاصطناعي هي عملية مراجعة مصادر بيانات المورد، وضوابط الجودة، والوضع الأمني، والاستعداد للامتثال، والتبعيات، ونموذج الحوكمة قبل التعاقد.
لماذا ينبغي على مشتري برامج الذكاء الاصطناعي الاستفسار عن التبعيات مفتوحة المصدر؟
لأنّ بنية الذكاء الاصطناعي الحديثة غالباً ما تتضمن موصلات خارجية، وبرمجيات وسيطة، وأدوات مفتوحة المصدر، ما قد يُؤدي إلى مخاطر لاحقة. وتُعدّ حادثة ميركور مثالاً حديثاً على أهمية ذلك.
ما الذي يجعل مورد بيانات الذكاء الاصطناعي قوياً؟
بإمكان مزود بيانات الذكاء الاصطناعي المتميز شرح مصدر البيانات، وضمان الجودة البشرية، وإمكانية التدقيق، وضوابط الوصول، وأدلة الامتثال، وكيفية حماية بيانات العملاء بمرور الوقت. وتؤكد المواد العامة لشركة Shaip على هذه الركائز.
لماذا تعتبر حيادية البيانات مهمة؟
تساعد حيادية البيانات في تقليل مخاطر تضارب المصالح، وعدم وضوح حدود إعادة الاستخدام، واختلال الحوافز في سلسلة توريد بيانات الذكاء الاصطناعي.
