حوكمة الذكاء الاصطناعي في المشتريات العامة: إطار عملي

تتعرض فرق المشتريات لضغط لإنجاز المزيد بعدد أقل من الأشخاص، والذكاء الاصطناعي مناسب لجزء كبير من العمل: صياغة الوثائق، وفحصها مقابل القواعد، وتلخيص العروض الطويلة. لكن قرارات المشتريات العامة يجب أن تكون قابلة للتفسير ومنسوبة إلى شخص مسؤول. والتحدي هو تحقيق توفير الوقت دون أن يلتبس من قرر ماذا.

ابدأوا بحدود واضحة

قبل تشغيل أي أداة، اكتبوا ما يجوز للذكاء الاصطناعي فعله وما لا يجوز. والقاعدة الافتراضية العملية للمشتريات العامة هي:

• يجوز للذكاء الاصطناعي أن يصوغ ويلخّص ويفحص وينبّه ويقترح.
• لا يجوز له اختيار مورد، أو تغيير الدرجات أو تجاوزها، أو الموافقة على أي شيء، أو تعديل العطاءات المقدمة أو سجلات التدقيق.

اجعلوا كل مخرج مؤقتًا بشكل واضح

يجب أن يُوسَم كل ما ينتجه الذكاء الاصطناعي بأنه مُنشأ آليًا، وأن يتطلب إجراءً بشريًا صريحًا: القبول أو التعديل أو الرفض. وهذا الإجراء نفسه جزء من السجل؛ فهو يُثبت أن شخصًا راجع الاقتراح، ويعطيكم بيانات عن مدى فائدة الذكاء الاصطناعي فعلًا.

سجّلوا ما يكفي لإعادة بناء القرار

إذا طُعن في قرار، يجب أن تتمكنوا من إظهار ما طُلب من الذكاء الاصطناعي وما أجاب به. سجّلوا لكل استدعاء على الأقل:

• من طلب، وفي أي جهة، ولأي ميزة
• أي نموذج ومزوّد أجاب
• أي إصدار من الموجّه استُخدم
• المخرج، وما فعله المستخدم به
• وقت حدوث ذلك، ومستوى المخاطر عند الاقتضاء

اجعلوا للموجّهات إصدارات

الموجّهات سياسات. فتغيير التعليمات المقدمة للنموذج قد يغيّر سلوكه بقدر ما يغيّره تعديل الشيفرة. احفظوا الموجّهات بأرقام إصدارات، وراجعوا التغييرات، وسجّلوا الإصدار المستخدم مع كل مخرج.

أبقوا إنذارات المخاطر داخلية حتى تُراجَع

الذكاء الاصطناعي الذي ينبّه إلى احتمال تواطؤ أو شروط مقيِّدة أو أسعار شاذة مفيد، لكن الإنذار غير المراجَع ادعاء لا نتيجة. أبقوا الإنذارات داخلية حتى يراجعها شخص وفق إجراء رسمي.

اختاروا أين تذهب البيانات

ينبغي لكل جهة أن تقرر أي مزوّد للذكاء الاصطناعي يعالج وثائقها، وأن تحتفظ ببيانات الاعتماد الخاصة بها. فتبقى بيانات المشتريات ضمن الترتيبات التي تفرضها قواعد حماية البيانات لديكم.

تطبّق DigiProcure هذا الإطار في تصميمها: يساعد الذكاء الاصطناعي في الصياغة وفحوص الامتثال واكتشاف الشروط المقيِّدة وتلخيص العطاءات، بينما يبقى التقييم والترسية والموافقة قرارات بشرية وفق مسارات قابلة للتهيئة.