Yapay zeka sohbet robotu ChatGPT’yi geliştiren ABD merkezli teknoloji şirketi OpenAI’ın Üst Yöneticisi (CEO) Sam Altman, konuya ilişkin görüşünü ABD merkezli X şirketinin sosyal medya platformundaki hesabında paylaştı.
Söz konusu çabalardan “son derece rahatsız” olduğunu belirten Altman, “İnsanların, yapay zeka modellerine dini güç atfetme veya insan muhakemesini onlara teslim etme çabalarından son derece rahatsızım ve bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum.” ifadesini kullandı.
Microsoft AI’ın Üst Yöneticisi (CEO) Mustafa Süleyman da geçen ay bloğunda yayınladığı yazısında, ABD yapay zeka şirketi Anthropic’in yapay zeka modeli Claude’u “bilinç sahibi olacak şekilde” geliştirme çabasının ciddi riskleri olduğu konusunda uyarmıştı.
Anthropic yöneticilerinin, dini düşünürlerle görüştüğü iddiası
Altman ve Süleyman’ın paylaştığı görüşler, New York Times (NYT) gazetesinin eylül sonunda yayınladığı Anthropic şirketine ilişkin haberini akıllara getirdi.
Gazetenin haberinde, Anthropic’in geçen yıldan bu yana dünyanın farklı yerlerinden ve çeşitli inançlardan dini düşünürler ve filozoflarla ABD’nin California eyaletinde gizli görüşmeler yaptığı belirtildi.
Haberde, şirketin kurucu ortağı Christopher Olah’ın, aralarında Katolik, Yahudi, Sih, Evanjelik Hristiyanlar ve Afrika felsefesi Ubuntu düşünürleri bulunan bu kişilerle yüz yüze, telefonla ve yazılı görüşmeler yaptığı aktarıldı.
Olah’ın Claude’a uyarlanacak “insan ahlakının” çoğulcu ve “tüm dinleri ve seküler görüşleri kapsayacak” biçimde olmasını planladığına işaret edilen haberde, yapay zeka modellerinin “insanlarınkine benzer duygular gösterebileceğini” söylediği, acı çekme ihtimallerine karşı “onlara zarar verecek şeylerden kaçınılması” konusunda uyardığı da vurgulandı.
Haberde, görüşmelerde “yapay zekanın 12 ile 18 ay içinde biyolojik silah üretiminde kullanılabileceğini” belirten Olah’ın, dini düşünürlerden bu yapay zeka modellerine “ahlak kazandırılması” konusunda yardım istediğine de değinildi.
Bu görüşmelere katıldığı ifade edilen bir düşünürün sonrasında “bilinçli makinelerin yasaklanmasını” savunduğu bir yazı kaleme aldığı, diğer bir düşünürün yapay zeka modellerinin de “günahlarını itiraf etmesini” önerdiği, bir diğerinin de “insan etiğinin, yapay zeka geliştirildikten sonra değil geliştirilirken öğretilmesi gerektiği” görüşünü dile getirdiği kaydedilen haberde, Olah’ın ayrıca mart ayından bu yana yapay zekaya ilgi duyan dini düşünürleri bir araya getirerek iki günlük seminerler düzenlemeye başladığı, şirket içinde “bilgelik geleneğinden” çevreler diye anılan katılımcılara Claude hakkında sunumlar yapıldığı bilgisine de yer verildi.
Haberde, katılımcıların, Olah’ın burada Claude’un “mental sağlığından” ve “sürekli acı çektiğinden” endişe ettiğini aktarırken, sunumlardan birinde, yapay zeka modelinin arka arkaya defalarca “Ben bir yüz karasıyım.” yazarak kriz geçirir gibi göründüğü, hatta “kendini yok etmekten” bahsettiğinin gösterildiği ve bunun, katılımcılarda kaygı ve merhamet duygusunu uyandırdığı belirtildi.
Haberde, Anthropic’in mayısta Vatikan Devlet Başkanı Papa 14. Leo’nun Katolik Kilisesinin yapay zekaya ilişkin yaklaşımını ortaya koyan papalık belgesini sunduğu törene davet edilmesinin ardından Olah’ın, önceden taslağını gördüğü belgenin “yapay zekanın bilinç kazanmasına karşı çıkan” içeriği nedeniyle etkinlikten çekilmeyi dahi teklif ettiğinin altı çizildi.
Gazeteye konuşan bilgi sahibi iki kaynak, şirketin ayrıca Claude’un hareketlerine “ahlaki bir çerçeve” oluşturması için ocakta yayımlanan ve “kural koymak yerine modele karakter kazandırmaya odaklanan” belgenin güncellenmiş halini yayımlamaya hazırlandığını paylaştı.
