AI YÖNETİMİ
EU AI Yasası: Şirketlerin risk yönetimi konusunda şimdi ne yapmaları gerekiyor
AI Yasası yönetişimi, uyumluluğu ve risk yönetimiyi temelden değiştirecek. Şirketler kendi KI sistemlerini sınıflandırmalı, belgelendirmeli ve denetlemelidir.
EU AI Act, yapay zekâ için dünya çapında en kapsamlı düzenlemelerden biridir. Bu düzenleme, şeffaflık, güvenlik, belgelendirme ve Risk yönetimi. Şirketler kendi yapay zekâ sistemlerini test etmek ve sınıflandırmak zorundadır; ve bunu beklenenden daha hızlı yapmak zorunda kalıyorlar.
swa EU AI-Acts içeriği hakkında daha fazla bilgi için: https://aiact.software/
Yasal çerçeve
- Kurumda KI sistemlerinin tanımlanması ve belgelenmesi
- KI sistemlerinin risk seviyelerine göre sınıflandırılması: Uygunsuz – Yüksek risk – Kısıtlı risk – Minimal risk
- Yüksek riskli BT için zorunlu (örneğin aday seçimleri, tıbbi cihazlar, kredi değerlendirmesi, kritik altyapılar)
- Kişisel % verilerin korunması
AI Yasası ayrımı yapar:
Yasaklı KI
Yüksek riskli AI
Sınırlı riskli AI
En aza indirgenmiş riskli AI
Risk yönetimi açısından özellikle Yüksek riskli AI ilgili.
Yüksek riskli AI için içerik gereksinimleri
- Risk yönetimi sistemleri Yapay Zekâ için (Madde 9)
- Teknik belgelendirme ve uygunluk değerlendirmesi (Madde 11–19)
- Raporlama, şeffaflık ve insan denetimi
- Veri kalitesi kontrolleri ve açıklanabilirlik
- AB'nin yüksek riskli AI veri tabanında kayıt
Regülasyon gerektiren uygulama önlemleri
- Tanımlama ve KI uygulamalarınızın risk sınıflandırması
- Risk yönetimi iş akışı AI Yasası'nın 9. maddesine göre (kayıt tutma, denetimler, incelemeler dahil)
- Uygunluk kontrolü için dışa aktarma işlevi içeren belgelendirme modülü
- Denetim– ve devam eden kontroller için denetim panosu
- Varolanlarla entegrasyon ISMS/RMS (örneğin ISO 27001, ISO 31000, CSRD)
- AB veri tabanı kayıtları için geleceğe yönelik bir mimari
Risk yönetimine etkisi
AI Yasası talep ediyor:
Yeni risk türleri
(Baskın, Drift, Yanlış Sınıflandırma)
Yeni kontroller
(Denetim izleri, izleme)
Yeni yönetişim yapıları
(AI Kurulu, KI Sorumluları)
Varolan sistemlere entegrasyon
ERM ve IKS sistemleri
Pratik Örnek
AI tabanlı kredi verme hizmeti sunan bir işletmenin örneğin şu şeyleri yapması gerekmektedir:
Eşitlik riski oluşturmak (-> grupların sistematik olarak dezavantajlanması)
Eğitim ve öğrenme verilerini belgeleyin
KI kontrol sistemi uygulamak
Düzenli denetimler yapın
Uygulama yararları:
Erken başlayan işletmeler, şunlardan yararlanır:
KI yönetimi bir rekabet avantajı haline geliyor
AI Yasası sadece bir uyum konusu değildir – bu, bir Yönetişim konusu. KI risklerini profesyonel olarak yöneten şirketler, inovasyonu ve düzenleyici gereklilikleri güvence altına alırlar. Güvenlik ve gerekirse yüksek cezalar önlemek.
