Yapay zekâ insanlığın kâbusu olacak! Peki önlemek için neler yapılmalı?

– Yapay zekâ, ileride insan yaşamının anlamını değiştirecek. Yapay zekâ birçok mesleği ortadan kaldıracak.  Yapay zekâ sistemleri istisnasız herkesi etkileyecek. Bu nedenle yapay zekâ etik kuralları ve ilkeleri belirlenmeli. Ayrıca sıfırdan yapay zekâ yapılması ve kullanılması hakkında yeni kanunlar yazılmalı.  Yapay zekâ önümüzdeki yüzyılın sihirbazı, vazgeçilmezi ve kâbusu olacak. Peki bu felaket nasıl önlenebilir? Neler yapılmalı?

– Şimdiye kadar güvenilir yapay zekâ tanımı veya güvenirlik konusunda bir derecelendirme, bağımsız ve güvenilir bir puanlama sistemi henüz oluşturulmadı. Bu nedenle yapay zekâyı kullanırken insan zekâsının devreye girerek değerlendirme yapması yararlı olur. Yapay zekâ kullanımı bir uçak kullanımı gibi karmaşık ve detaylı bir iştir. Bu nedenle hangi durumda hangi yapay zekâyı, nasıl kullanmanın doğru olacağına işinin ehli insan zekâsı karar vermelidir. 

– Peki yapay zekânın hakları olmalı mıdır? İnsan hakları, çocuk hakları, hasta hakları gibi yapay zekâ hakları da belirlenmeli midir? Uluslararası bir kuruluş, yapay zekâ haklarını yazıp bu hakların tüm ülkelerde uygulanmasını istemeli midir? Herhangi bir yapay zekâya bilerek zarar veren, onun haklarını ihlal eden bir kişi veya kurum cezalandırılmalı mıdır? Cezalandırılabilir mi? Bu gibi konuların düşünülmesi ve bu konuda uluslararası standartların oluşturulması gerekir.

– Yapay zekâ sistemleri ile ilgili “AI Etik İlkeleri ve Kuralları”nın belirlenmesinde fayda var. Şirketler kendileri için “Etik Kodu” isimli doğru ve yanlış uygulamaları yazılı hale getirip yayınlarlar Tüm çalışanların bu kurallara uymalarını isterler. Yapay zekâ sistemleri için de benzer etik kuralların belirlenmesi gerekir. Etik Değerler Merkezi Derneği Kurucu Onursal Genel Başkanı olarak yapay zekâ ile benim önerierim şunlar:

– Yapay zekâ sistemleri, toplumun iyiliğini arttırmak ve insanlığa yarar sağlamak için kullanılmalı. Yapay zekâ sistemlerinin nasıl çalıştığını ve kullanıldığını belirleyen algoritmalar insanlar tarafından anlaşılır şekilde yazılmalı. Yapay zekâ sistemleri şeffaf, açık, dürüst, doğru, adaletli ve etik olmalı. Yapay zekâ sistemleri insanları korumalı ve insanlara yardımcı olup onlara hizmet etmeli. Yapay zekâ sistemleri insan haklarını ihlal etmemeli.

– Tüm insanlar, yapay zekâ sistemlerini kullanabilmeli. Hiçbir yapay zekâ sistemi insanları aldatmak, yanılmak, kandırmak, yanlış yola sürüklemek, yanlış karar almalarına neden olacak şekilde kurgulanmamalı. Yapay zekâ sistemleri toplumu kullanımına açılmadan önce bağımsız kurumlar tarafından incelenmeli, araştırılmalı, test edilmeli, denetlenmeli ve kabul görmüş “Uluslararası Yapay Zekâ Standartları”na uygun bulunursa kullanıma sunulmalı.

– Yapay zekâ sistemleri yasa dışı işlerde kullanılmamalı. Yapay zekâ kullanıcısına güven veren uygulamalar yapmalı ve güvenilir olduğunu ispat etmeli. Her bir yapay zekâ sisteminin bir sahibi olmalı. Sahibi belli olmayan yapay zekâ uygulamaları toplumun kullanımına açılmamalı. Herhangi bir yapay zekâ kullanıcısı söz konusu yapay zekâyı kullanırken kendi hatası ve kötü niyeti dışında bir zarara uğrarsa bu zarar söz konusu yapay zekâ sahibi tarafından karşılanmalı.

– Yapay zekâ sistemleri her zaman insan zekâsı ile kontrol edilebilmeli. İnsan zekâsı ile kontrol edilme özelliğini kaybetmek üzere olan bir yapay zekânın çalışması durdurulmalı ve sonlandırılmalı. Yapay zekâ sistemleri kişisel verileri korunma kanununa uygun şekilde kullanılmalı. Her bir yapay zekâ sisteminin bir yaratıcısı ve sorumlusu olmalıdır. Bu yaratıcı ve sorumlu, gerçek kişi ve kurum olmalı ve toplumun kullanımına sundukları yapay zekâ sisteminden sorumlu olmalı.

Şimdiye kadar güvenilir yapay zekâ tanımı veya güvenirlik konusunda bir derecelendirme, bağımsız ve güvenilir bir puanlama sistemi henüz oluşturulmadı. Bu nedenle yapay zekâyı kullanırken insan zekâsının devreye girerek değerlendirme yapması yararlı olur. Yapay zekâ kullanımı bir uçak kullanımı gibi karmaşık ve detaylı bir iştir. Bu nedenle bilinçli kullanmak gerekir. Hangi durumda hangi yapay zekâyı kullanmak gerektiğini, nasıl kullanmanın doğru olacağını değerlendirip karar vermek için ise işinin ehli insan zekâsı karar vermelidir.

Ayrıca yapay zekânın hakları olmalı mıdır? İnsan hakları, çocuk hakları, hasta hakları gibi yapay zekâ hakları da belirlenmeli midir? Uluslararası bir kuruluş, yapay zekâ haklarını yazıp bu hakların tüm ülkelerde uygulanmasını istemeli midir? Herhangi bir yapay zekâya bilerek zarar veren, onun haklarını ihlal eden bir kişi veya kurum cezalandırılmalı mıdır? Cezalandırılabilir mi? Bu gibi konuların düşünülmesi ve bu konuda uluslararası standartların oluşturulmasında fayda vardır.

Yapay zekâ sistemleri ile ilgili “AI Etik İlkeleri ve Kuralları”nın belirlenmesinde fayda vardır. Şirketler kendileri için “Etik Kodu” isimli doğru ve yanlış uygulamaları yazılı hale getirip yayınlarlar. Tüm çalışanlarının bu kurallara uymalarını isterler. Yapay zekâ sistemleri için de benzer etik kuralların belirlenmesi gerekir.

Etik Değerler Merkezi Derneği Kurucu Onursal Genel Başkanı olarak yapay zekâ ile ilgili aşağıdaki etik ilkelerin uygulanmasını önerebilirim.

 YAPAY ZEKÂ ETİK İLKELERİ / AI ETHICS

 1.Yapay zekâ sistemleri, insanları korumalı, toplumun iyiliğini arttırmak ve insanlığa yarar sağlamak için kullanılmalıdır.

2. Yapay zekâ sistemlerinin nasıl çalıştığını ve kullanıldığını belirleyen algoritmalar insanlar tarafından anlaşılır şekilde yazılmalıdır.

3. Yapay zekâ sistemleri şeffaf, açık, dürüst, güvenilir, doğru, adaletli ve etik olmalıdır.

4. Yapay zekâ sistemleri insan haklarını, aile haklarını, çocuk haklarını, topluluk haklarını, mahremiyetini, gizliliğini, bilgi güvenliğini azaltmamalı, zedelememeli ve yok etmemelidir.

5. Tüm insanlar, yapay zekâ sistemlerini kullanabilmelidir.

6. Hiçbir yapay zekâ sistemi insanları aldatmak, yanılmak, kandırmak, yanlış yola sürüklemek, yanlış karar almalarına neden olacak şekilde kurgulanmamalıdır.

7. Yapay zekâ sistemleri toplumu kullanımına açılmadan önce bağımsız kurumlar tarafından incelenmeli, araştırılmalı, test edilmeli, denetlenmeli ve kabul görmüş “Uluslararası Yapay Zekâ Standartları”na uygun bulunursa kullanıma sunulmalıdır.

8. Yapay zekâ sistemleri yasa dışı işlerde kullanılmamalıdır.

9. Yapay zekâ sistemleri uluslararası kanunlara ve görev yaptıkları ülkenin kanunlarına uyum içinde çalışmalıdır. Hiçbir kanun maddesine aykırı iş yapmamalıdır.

10. Her bir yapay zekâ sisteminin bir yaratıcısı/sahibi ve sorumlusu olmalıdır. Bu yaratıcı ve sorumlu bir gerçek kişi ve kurum olmalıdır. Hem gerçek kişi hem de kurum yarattıkları ve toplumun kullanımına sundukları yapay zekâ sisteminden sorumlu olmalıdır. Sahibi belli olmayan yapay zekâ uygulamaları toplumun kullanımına açılmamalıdır. Herhangi bir yapay zekâ kullanıcısı söz konusu yapay zekâyı kullanırken kendi hatası ve kötü niyeti dışında bir zarara uğrarsa bu zarar söz konusu yapay zekâ sahibi tarafından karşılanmalıdır.

11. Yapay zekâ karar vermek veya bir sonuç üretmek için muhakkak doğru bilgileri kullanmalıdır. Yapay zekâ sistemleri her zaman insan zekâsı ile kontrol edilebilmelidir. İnsan zekâsı ile kontrol edilme özelliğini kaybetmek üzere olan bir yapay zekânın çalışması durdurulmalı ve sonlandırılmalıdır.

12. Yapay zekâ sistemleri hatalı, gerçek dışı, çarpıtılmış veriler kullanarak sonuçlar üretmemelidir. Gerçeği çarpıtarak insanlara ve kurumlara zarar vermemelidir.

13. Yapay zekâ sistemleri güvenliği ön planda tutmalıdır. Güvenlik açıklarını bertaraf edecek risklere karşı koruyucu önlemler ve duvarlarla çevrilmeli ve korunmalıdır. Kişisel veya gizli bilgilerin korunması sağlanmalıdır.

14. Yapay zekâ sistemleri sürdürülebilirlik esasına göre kurulmalı ve çalıştırılmalıdır. Hizmet kesilmesi, sonlanması, aksaması, etkisiz hale gelmesi ve sürdürülebilirliği olumsuz etkileyecek her tür türlü riske karşı gerekli önlemler alınmalıdır.

15. Yapay zekâ sistemleri şeffaf olmalı ve dış denetime açık olmalıdır. Yapay zekâ sistemleri “due diligence” (durum tesbit süreci) , “supervision” (denetim gözetim) , “whisle blowing” (ihbarcılık) gibi kalite kontrol mekanizmalarına açık olmalı ve bunların yapılabilmesine imkân sağlamalıdır.

16. Yapay zekâ konusunda toplumun bilinçlenmesi ve eğitilmesi gerekir. Bu konuda gereken bilgilendirme mesajları ve eğitimler devletin ilgili kurumu tarafından yapılmalıdır.

17. Yapay zekâ konusundaki uyuşmazlıkları ve davalara bakmak üzere özel bir mahkeme her ülkede görevlendirilmelidir.

18. Yapay zekâ uygulamalarının çevreye, tabiata, tabi kaynaklara, iklim değişikliklerine, gıda ekosistemine ve sürdürülebilir enerji kaynaklarına vereceği zararlar tespit edilmeli bu zararları en aza indirmek için kamu otoritesi tarafından gerekli önlemler alınmalıdır.

19. Yapay zekâ sistemleri ülkedeki öğretmenlerin eğitilmesi ve öğrencilerin uzaktan eğitim (e-learning) sistemlerinin kullanılmasına imkân sağlamalıdır. Yapay zekâ sistemleri kullanılarak öğrencilere etik eğitimi verilebilmelidir.

20. Yapay zekâ sistemleri işsizlerin iş bulmasına katkı sağlaması için geliştirilmelidir.

21. İnsan sağlığı konusunda yapay zekâ sistemleri aktif olarak çalışmalı ve insan sağlığını koruyacak uygulamalar yapmalıdır.

22. Yapay zekâ sistemleri çocuklar, göçmenler gibi yaralanabilir guruplar hakkında ön yargılı olmamalı, ayırımcılık ve taraf olacak şekilde kullanılmamalıdır.

23. Yapay zekâ sistemleri insan onurunu, insan haklarını, insanların iyiliğini, sorumluluğu, eşitliği, dayanışmayı, özerkliği, demokrasiyi, hukukun üstünlüğünü, hesap verebilmeyi, güveni ve güvenliği, data korumasını, gizliliği, kişisel verilerin korunmasını, sürdürülebilirlik, uluslararası kanunları ve bilgi mahremiyetini ön planda bulunduracak şekilde çalışmalıdır.

24. Yapay zekâ sistemleri her çeşit ayırımcılığı önlemeli, insanları propaganda, politik yönlendirme ve manipülasyondan korumalıdır.

YAPAY ZEKA HESAP VEREBİLMELİ, SORUMLU VE ŞEFFAF OLMALI

25. Yapay zekâ sistemlerinde dört önemli özelliğin bulunması gerekir. 1) Hesap Verebilmek 2) Sorumlu Olmak 3) Anlaşılır Olmak ve 4) Şeffaf Olmak

26. Yapay zekâ sistemleri hukuk önünde gerçek kişi gibi mütalaa edilemez. Ancak yapay zekâ sistemleri hukuk önünde tüzel kişi olarak yaptıklarından sorumlu tutulmalıdır. Yapay zekâ sistemleri bir kişiyi etkileyecek herhangi bir karar alıp uygulamadan önce alacağı karardan etkileyecek kişiyi önceden uyarmalı ve onun onayını almalıdır.

27. Yapay zekâ sistemlerini kullanarak kişisel bilgileri toplayan, biriktiren, analiz eden, başka şirketlere veren veya satan şirketler ve platformlar (Google ve Facebook gibi) topladıkları kişisel bilgilerle bilgi sahiplerine zarar verecek hiçbir tasarrufta bulunmamalıdır. Söz konusu bilgileri bilgi sahiplerinin yararına ve faydasına kullanmak zorundadırlar.

28. Yapay zekâ ile çalışan şoförsüz arabalar, hiçbir insana isteyerek ve bilerek zarar vermeyecek şeklide çalışmalıdır. Yapay zekâ ile çalışan şoförsüz arabalar, insanları yaralayacak veya öldürecek hiçbir hareketi yapmamalı ve bu gibi durumlarla karşılaşmamak için sürat azaltma, acil fren yapma, direksiyon kırmak gibi gereken önlemleri alacak algoritmalar ile çalışmalıdır.

29. Yapay zekâ ile çalışan şoförsüz arabalar, sürüş emniyetini azalıp azalmadığını sürekli kontrol edebilmeli ve sürüş emniyetinin azaldığı veya yok olduğunu önceden algılayabilmelidir.

30. Yapay zekâ sistemleri herhangi bir kişiyi etkileyecek bir karar almadan ve uygulama yapmadan önce söz konusu kişiyi uyarıp onun ön onayını almalıdır. Bu onayın kabul edilir bir onay olabilmesi için aşağıdaki beş unsurun laikiyle yapılması gerekir.

YAPAY ZEKA ÖNÜMÜZDEKİ YÜZYILIN SİHİRBAZI VE KABUSU OLACAK

1) Bilgilerin nasıl, hangi amaçla ve nerelerde kullanacağı konusunda detaylı bilgilendirme yapılmalıdır.
2) Kişinin yapay zekâya vereceği hakların kapsamı doğru ve açıkça belirlenmelidir.
3) Yapay zekâya verilen yetkinin detaylı ve anlaşılır bir şekilde açıklanması gerekir.
4) Yapay zekânın yapacağı uygulamadan etkilenen kişinin gönüllü olarak rızasının alınmalı.
5)Yapay zekânın yapacağı uygulamadan bu uygulamadan etkilenecek tüm taraflar için adil olmalıdır.

Yapay zekâ konusunda uluslararası kabul görmüş ve uygulanan bir “AI-Yapay Zekâ Etik Kodu” ve etik ilkeleri ve kuralları henüz yoktur. Bu ise önemli bir eksikliktir.  Yapay zekâ konusunda hem ülkemizde hem de dünyada yapmamız gereken daha pek çok iş var.

Daha yolun başındayız. Yapay zekâ, ileride insan yaşamının anlamını değiştirecektir. Yapay zekâ birçok mesleği ortadan kaldıracaktır.  Yapay zekâ sistemleri istisnasız herkesi etkileyecektir. Bu nedenle yapay zekâ etik kuralları ve ilkeleri belirlenmelidir. Ayrıca sıfırdan yapay zekâ yapılması ve kullanılması hakkında yeni kanunlar yazılmalıdır.  Yapay zekâ önümüzdeki yüzyılın sihirbazı, vazgeçilmezi ve kâbusu olacaktır.

Not: Görseller, yapay zeka asistanı Grok tarafından oluşturulmuştur.

Bülent ŞENVER

senver@turcomoney.com