Yapay zekâ, işletmelere gelirlerini ve süreçlerinin verimliğini artırmak için yeni fırsatlar sunarken, yapay zekânın yanlış uygulamalarının, işletmelerde hem marka itibarının kaybına hem de mali kayıplara neden olacağı görülmektedir. İşletmeler, yapay zekânın; tasarımı, geliştirilmesi ve uygulanması aşamalarında müşterilerinde, çalışanlarında ve toplumda birçok olumsuz etkilere de neden olabileceğinin farkında olmalıdırlar. Bu olumsuz etkilerin önlenmesinde ve ortaya çıktığında oluşabilecek etkilerin en az seviyede tutulmasında yapay zekânın tasarımı, geliştirilmesi ve uygulanması süreçlerinin başarılı bir biçimde yönetimi çok önem kazanmaktadır. İşletmeler yapay zekâ uygulamalarının, hem kendi işletmeleri hem de toplum için yarar sağlaması ve yaşanabilecek olumsuzların azaltılması ve yasal sorunlarla karşılaşılmaması için sorumlu yapay zekâ (SYZ) ilkelerini belirlemeyi ve sorumlu yapay zekâ yönetim sistemlerini tasarlamayı gündemlerine almalıdırlar.
Sorumlu yapay zekâ yönetişim çerçevesi, işletmenin, yapay zekâ ilkelerini ve değerlerini faaliyetlerine entegrasyonuna olanak sağlar ve yapay zekâ teknolojilerinin açıklanabilir, şeffaf, adil, doğru, dayanıklı ve güvenli, hesap verebilir, mahremiyete bağlı biçimde geliştirilmesini, dağıtılmasını ve kullanılmasını sağlamak için bir dizi yönerge ve en iyi uygulamaları sunar. Başta Google, IBM ve Microsoft olmak üzere teknoloji şirketlerinin de sorumlu yapay zekâ kavramına ve ilkelerine ilişkin öneriler ve yaklaşımlar ortaya koyduğu görülmektedir. European Commission, OECD ve US General Services Administration da sorumlu yapay zekâ çerçevesi ve ilkelerine ilişkin raporlar hazırlamış ve düzenlemeler önermişlerdir. Uluslararası Standardizasyon Kuruluşu’nun da bu kapsamda standartlar geliştirdiği görülmektedir. Uluslararası Standardizasyon Kuruluşu tarafından hazırlanan standartlar (ISO/IEC TR 24028:2020, ISO/IEC 22989:2022 ve ISO/IEC 42001:2023) yapay zekâda güvenilirliğe ve sorumlu yapay zekâya ilişkin temel kavramları açıklamaktadır.
Sorumlu yapay zekâ; ön yargıları azaltmak, adaleti teşvik etmek, elde edilen çıktıların açıklanabilirliğini kolaylaştırmaya yardımcı olmak amacıyla etik, şeffaf ve hesap verebilir yapay zekâ teknolojilerinin tasarlanması, uygulanması ve kullanılmasıyla ilgilenir. Uluslararası Standardizasyon Kuruluşu (ISO) tarafından sorumlu yapay zekâ, yapay zekâyı hem etik hem de yasal açıdan geliştirmeye ve uygulamaya yönelik bir yaklaşım olarak belirtilmiş ve sorumlu yapay zekânın amacının, yapay zekâyı güvenli, güvenilir ve etik bir şekilde kullanmak olarak ifade edilmiştir. Sorumlu yapay zekâ insan merkezlidir ve etik karar alma yöntemleriyle kullanıcıların güvenini sağlamayı hedefler. Yapay zekâ desteli karar verme süreci adil olmalı, hesap verebilir olmalı, ön yargılı olmamalı, şeffaf ve açıklanabilir olmalı ve toplumsal yasa ve normlarla tutarlı olmalıdır.
Sorumlu YZ yalnızca yasalara ve düzenlemelere uyum için bir gereklilik değil, aynı zamanda işletmeler için stratejik bir avantajdır. Sorumlu yapay zekâ yönetişimini genel kurumsal yönetişimi ile entegre edebilen işletmelerin, yapay zekâ sistemlerinin tasarımı, geliştirilmesi ve kullanıcılar tarafından kullanılması sürecinde sorumlu yapay zekâ ilkelerine uyumu sürdürmeleri mümkün olacaktır. Yapay zekâ teknolojilerinin sorumlu kullanımını yönlendirmek, yenilik ile etik davranış arasında bir denge kurmak ve öngörülemeyen etkilerden kaçınmak için güçlü yapay zekâ yönetişim çözümlerinin ve tekniklerinin geliştirilmesi gerekmektedir.
ISO/IEC 42001:2023 standardı, bir organizasyon bağlamında bir YZ yönetim sistemini kurmak, uygulamak, sürdürmek ve sürekli iyileştirmek için gereklilikleri belirten ve rehberlik sağlayan yönetim sistemi standardıdır. ISO/IEC 42001:2023 standardı, organizasyonlara YZ'yı sorumlu ve etkili bir şekilde kullanmaları için ihtiyaç duydukları kapsamlı rehberliği sunar. ISO/IEC 42001:2023 standardı, YZ sistemlerini tasarlayan, geliştiren ve kullanan organizasyonlar için tasarlanmış olup, bir organizasyonun bir YZ sisteminin sorumlu bir şekilde geliştirilmesi veya kullanılmasıyla ilgili süreçleri uyguladığını ve sürekli olarak iyileştirdiğini göstermesini sağlar.
Yapay zekâ endüstrileri ve toplumları etkilemeye devam ettikçe, sağlam yönetim çerçevelerine duyulan ihtiyaç giderek daha da önemli hale gelmektedir. ISO/IEC 42001:2023 standardı, yapay zekâ teknolojilerinin sorumlu bir şekilde geliştirilmesini ve dağıtımını sağlamaya yönelik önemli bir adımı temsil etmektedir. Başarılı bir belgelendirme, yalnızca kuruluşun sorumlu yapay zekâ yönetimine olan bağlılığını doğrulamakla kalmaz, aynı zamanda kuruluşa pazarda rekabet avantajı da sağlar. Tüketiciler ve paydaşlar yapay zekânın etik ve sorumlu kullanımı konusunda daha seçici hale gelmekte ve ISO/IEC 42001:2023 belgesi, bir kuruluşun sorumlu yapay zekâ ilkelerine olan bağlılığının bir göstergesi olmaktadır.
Kaynaklar:
High-Level Expert Group on Artificial Intelligence Set Up By The European Commission, 2019, “Policy and Investment Recommendations For Trustworthy AI”, European Commission
ISO/IEC 42001,2023, Information Technology — Artificial Intelligence — Management System
Yüksel H.,2024, ISO/IEC 42001:2023 Standardı İçin Sorumlu Yapay Zekâ Yönetişimi, Aristo Yayınevi