Yapay zekayı kurum sistemine koymadan önce beş soru
Bir modeli çağırmak kolay. Zor olan, hangi verinin gittiğini, kimin onayladığını ve denetimde ne göstereceğinizi baştan belirlemek.
- Yapay zeka
- ISO 42001
- Yazılım
Kurumlarda yapay zeka kullanımı çoğu zaman aynı biçimde başlıyor: bir ekip işini kolaylaştıran bir aracı keşfediyor, kullanmaya başlıyor, kimse bir şey sormuyor. Sorular ancak bir denetim, bir müşteri sorusu ya da bir olay sonrasında geliyor.
Bir yapay zeka destekli sistemi kurmadan önce cevaplanması gereken beş soru var. Hepsi teknik değil; bazıları sözleşme ve süreç sorusu.
1. Modele hangi veri gidiyor?
En temel soru bu ve çoğu kurumda cevabı yok. Hangi alanların modele gönderildiğini, hangilerinin gönderilmediğini yazılı olarak belirleyin. "Çalışanlar dikkatli olsun" bir kontrol değil; teknik bir kısıt gerekiyor.
İkinci kısım: sağlayıcı bu veriyi ne kadar saklıyor, eğitimde kullanıyor mu? Bu bilgi sözleşmede yazılı olmalı, blog yazısından okunmamalı.
2. Çıktı karar mı, öneri mi?
Yapay zeka çıktısını doğrudan uygulayan bir sistem kurmak, kişi hakkında sonuç doğuran durumlarda ciddi bir risk. Kanun'un 11. maddesi, ilgili kişiye "münhasıran otomatik sistemlerle analiz edilmesi suretiyle aleyhine bir sonucun ortaya çıkmasına itiraz etme" hakkı veriyor.
Pratik karşılığı: sonuç doğuran her adımda bir insan onayı kalmalı ve o onayın kaydı tutulmalı.
3. Ne kaydediyorsunuz?
Bir çağrının denetlenebilir olması için en az şunlar gerekir: girdinin özeti, kullanılan model, çıktı ve zaman damgası. Bu kayıt olmadan, altı ay sonra "sistem neden böyle dedi" sorusuna verilecek bir cevap kalmıyor.
Kayıt tutarken kişisel veri biriktirmemeye dikkat edin. Özet tutmak çoğu zaman tam metni saklamaktan daha doğru.
4. Model neyi yapmayacak?
Sınırların yazılı olması gerekiyor. Sistem promptunda modelin hangi konuda yanıt vermeyeceği, hangi veriyi istemeyeceği ve nerede insana devredeceği tanımlı olmalı. Bu sınırlar aynı zamanda sözleşmede de yer almalı ki sonradan yorum farkı çıkmasın.
5. Ölçülebilir bir faydası var mı?
En az diğerleri kadar önemli. Bir işi yapay zekayla yapmanın ölçülebilir bir karşılığı yoksa (süre kısalmıyor, hata azalmıyor, kapasite artmıyor) o işi yapay zekayla yapmamak en doğru karar. Kurulumun kendisi de bir bakım yükü getiriyor.
Standart tarafı
ISO/IEC 42001 yapay zeka yönetim sistemini, ISO/IEC 23894 ise yapay zeka risk yönetimini ele alıyor. İkisi de yukarıdaki soruları kurumsal bir çerçeveye oturtuyor: envanter, politika, risk değerlendirme, izleme.
Bu yaklaşımı ve nerelerde uygulandığını YZ destekli sistemler sayfasında ayrıntılı anlatıyoruz. Bu sitedeki ön değerlendirme aracı ve asistan da aynı kurallarla çalışıyor. Anlattığımız şeyi önce kendimize uyguluyoruz.
Bu yazı bilgilendirme amaçlıdır ve hukuki tavsiye yerine geçmez.