Yazan: Nicola Cerbino
Çeviren: Meryem Beyza Kara
Düzenleyen: Ümit Sözbilir
Özet: Yapılan yeni bir çalışma; sezgisel (Sistem 1) ve analitik düşüncelerimizi (Sistem 2) bilişsel çerçevede tamamlayan, bireysel zihnin dışında bir zekâ katmanı olarak işlev gören “Sistem 0”ı tanıtıyor. Yapay zekânın geniş verileri işleme yeteneği, insanların düşünme süreçlerinde oldukça etkili oluyor ancak insan hayatına bu kadar dâhil olması yapay zekâya aşırı güvenme ve bilişsel özerkliğin kaybı gibi riskleri de beraberinde getiriyor. Araştırmacılar, yapay zekânın bağımsız düşünme yeteneğimizi azaltmadan, etik ve sorumlu kullanımına dikkat çekiyor.
Giriş
İnsanlar ve yapay zekâ arasında kurulan yeni bir etkileşim, insanların bilişsel yeteneklerini geliştiren yeni bir düşünce sistemini şekillendiriyor. Şekillenen yeni şema, “Sistem 0” olarak adlandırılıyor ve insan düşüncesinin iki modeliyle birlikte çalışabiliyor: Sezgisel, hızlı ve otomatik düşünme ile karakterize edilen “Sistem 1” ve analitik, yavaş ve bilinçli bir düşünme türü olan “Sistem 2”. Ancak Sistem 0, beynimizin çalıştığı ikili bilişsel sistemi etkileyebilme yeteneğine sahip ek bir karmaşıklık düzeyi getirmektedir ve karar verme yeteneğimizin evriminde, ileriye doğru atılacak muazzam bir adıma işaret etmektedir. İlerlemeyi, bilişsel özerkliğimizi tehlikeye atmadan gerçekleştirebilmek ise bizim sorumluluğumuzda olmalıdır.
Sistem 0’ı daha iyi anlamak için önce Sistem 1 ve Sistem 2 düşüncelerinden bahsedelim.
Kahneman’ın “Sistem 1” ve “Sistem 2” Düşüncesi
Davranışsal psikoloji öncülerinden Daniel Kahneman yaptığı çalışmalarla beynimizde iki farklı sistemin birlikte çalıştığını tespit etmiştir: Sistem 1 (hızlı düşünme) ve Sistem 2 (yavaş düşünme). Bahsedilen iki sistem farklı alanlara odakladır ve karşılaştığımız durumlar hangisinin uzmanlık alanına giriyorsa o sistemin devreye girmesiyle kararlarımız ve düşüncelerimiz şekillenmektedir.
Sistem 1: Hızlı, Sezgisel Düşünme
Zihnimizi biraz olsun rahatlatan, bazı konularda bizleri fazla düşünmekten kurtaran “Sistem 1”, bizi güvende tutmak için tehlikeyi tespit edip hızlı bir eylem planı belirleme üzerine çalışır. Bir refleks gibi hızlı ve otomatik verilen kararlar “en az zahmet ve en düşük enerji” kuralına uygun çalışır. Örneğin: araba kullanmayı iyice öğrendikten sonra her araba kullanışınız artık otomatikleşir, arabanın nasıl sürüleceği üzerine fazla düşünmeden otomatik hareketlerle arabayı kullanırsınız. Aynı şekilde yürürken ve yemek yerken de “Sistem 1” devrededir.
Sistem 2: Yavaş, Analitik Düşünme
Zor problemleri çözmekten sorumlu olan “Sistem 2” analiz yapan, yavaş düşünen ve dikkatli kararlar veren bir sistemdir. Örneğin: ilk kez araba kullanmayı veya piyano çalmayı öğrenirken “Sistem 2” devrededir. Bazen de zorlu bir karar aldıktan sonra yerinizden hiç kalkmamış olsanız bile kendinizi yorgun hissedebilirsiniz. Sebebi, Sistem 2’nin çalışırken harcadığı yoğun enerjidir.
İkili Bilişsel Sistemin Birlikte Çalışması
Rutinleri, Sistem 1 yönetirken iş analiz yapıp seçeneklerin değerlendirilmesine geldiğinde Sistem 2 devreye girer. Günlük hayatımızda çoğunlukla Sistem 1 aktiftir ancak beklenmedik durumlarla karşılaştığımızda veya bilinçli bir çaba gerektiren olaylarda Sistem 2’ye başvururuz. [1] Beynimiz, her iki sistemi ayrı ayrı kullanabilir fakat bazı durumlarda ikisinden de faydalanabilir. [2] Örneğin: yeni bir kek tarifi deneyeceğinizi düşünelim. Her kek tarifinde olan yumurta çırpma, un ekleme gibi işlemleri Sistem 1 sayesinde bilirsiniz ve çok fazla düşünmeden talimatları hızlıca yerine getirirsiniz ancak yaptığınız tarife özel işlemlere geldiğinizde artık Sistem 2 devreye girer ve daha odaklı çalışırsınız. Sistem 1 ve Sistem 2’nin dengeli iş bölümü sayesinde görevleri hızlı ve aynı zamanda odaklanarak tamamlamış olursunuz.
Yeni Bir Dışsal Düşünme Biçimi: “Sistem 0”
Saygın bir bilim dergisi olan Nature Human Behaviour’ da yayımlanan The case for human-AI interaction as System 0 thinking (Sistem 0 düşüncesi için insan-yapay zekâ etkileşiminin durumu) başlıklı makalede, “Sistem 0” adı verilen yeni bir sistem tanıtılıyor.
Sistem 0, bireysel zihnin ötesinde veri odaklı bir zekâ katmanı işlevi görür. [3] Geniş veri işleme ve hesaplama kapasitesiyle hem hızlı (Sistem 1) hem de yavaş (Sistem 2) düşünmeyi desteklediği ve bilgiyi önceden işleyerek insan bilişini şekillendirdiği ifade ediliyor. Nasıl ki harici bir sürücü, bilgisayardaki verileri depolamamıza olanak tanıyorsa ve sürücümüzü nerede olursak olalım bir başka bilgisayara bağlayarak çalışabiliyorsak yapay zekâ da uzay tabanlı ve dijital ortamdaki verileri işleme yeteneği sayesinde insan beynini geliştirebilecek harici bir devre sunmaktadır. Dolayısıyla Sistem 0 fikri, yapay zekânın yeteneklerine dayanan “harici” bir düşünme biçimidir. Bununla birlikte Sistem 0, Sistem 1 ve Sistem2’nin (bireysel zihin içinde işleyen sistemler) aksine, işlediği bilgilere içsel bir anlam yüklemez. Başka bir deyişle, yapay zekâ birlikte çalıştığı verilerin içeriğini gerçekten anlamadan hesaplamalar yapabilir, tahminlerde bulunabilir ve yanıtlar üretebilir. Sonucunda insanlar kendi başına yorum yapmak ve yapay zekâ tarafından üretilen sonuçlara anlam vermek zorundadır. Bu durum bilgiyi verimli bir şekilde toplayan, filtreleyen ve düzenleyen ancak yine de bilinçli kararlar almak için müdahalemize ihtiyaç duyan bir asistana sahip olmak gibidir.
Sistem 0’ın Riskleri: Özerklik Kaybı ve Koşulsuz Güven
Giderek otomatikleşen bir dünyada, insanların yapay zekâ tarafından üretilen sonuçları sorgulamaya, özerk düşünmeye ve yenilikçi fikirler geliştirmeye devam etmesi gereklidir. Ayrıca yapay zekâ sistemlerinde şeffaflık ve güven bir başka ikilemi doğurmaktadır. Sistemlerin ön yargı veya çarpıtma içermediğinden, doğru ve güvenilir bilgi sağladığından nasıl emin olabiliriz?
Profesörler, “yapay ve özetlenerek üretilen verilerin kullanımına yönelik artış, gerçeklik algımızı tehlikeye atabilir ve karar verme süreçlerimizi olumsuz etkileyebilir” uyarısında bulunuyorlar. Yapay zekânın sınav sorularına yanıtlar üretebiliyor, gerçekçi fotoğraflar oluşturabiliyor hatta kişilerin seslerini iyi bir şekilde taklit edebiliyor olması davranışlarımızı ve zihinsel durumlarımızı analiz etmek için akıllı sistemlere güvenmemizi mümkün hâle getirebilmektedir. Tüm bunlar ise akıllara şu soruları getiriyor: Yapay zekâ analizi yoluyla, kendimizi ne ölçüde anlayabiliriz? Yapay zekâ öznel deneyimleri taklit edebilir mi?
Yapay zekânın etkileyici yeteneklerine rağmen hâlâ insan benzeri zekâya ulaşmasının önünde önemli engeller vardır. [4] Bunlar:
- Bilincin ve öznel deneyimlerin anlaşılamaması
- İnsan duygularının ve sosyal etkileşimlerin karmaşıklığı
- Yapay zekânın mevcut öğrenme modelleri ile insanın öğrenme biçiminin temelde farklı olması
Günümüz yapay zekâsı insan bilişindeki kadar bir duyarlılığa sahip değildir ancak yapay zekânın kendi yetenekleri sayesinde, Sistem 0’ın muazzam fırsatlar da sunduğuna dikkat çekiliyor. Karmaşık verileri hızlı ve verimli şekilde işleme yeteneği sayesinde yapay zekâ, doğal bilişsel kapasitemizi aşan sorunların üstesinden gelmede insanlığa destek olmaktadır. Karmaşık bilimsel sorunları çözerken, büyük veri kümelerini analiz ederken veya karmaşık sosyal sistemleri yönetirken yapay zekâ vazgeçilmez bir ortağımız hâline gelebiliyor. Çalışmanın yazarları, Sistem 0’ın potansiyelinden yararlanmak için etik ve sorumlu yönergeler geliştirmenin gerekliliğini; şeffaflık, hesap verilebilirlik ve dijital okuryazarlığın insanların yapay zekâ ile eleştirel şekilde etkileşime girmelerini sağlamak için kilit unsurlar olduğunu belirtiyorlar. Ayrıca halka, yeni bilişsel ortamda nasıl hareket edeceği konusunda eğitimler verilmesi yapay zekâ sistemlerine olan aşırı bağımlılığın önüne geçmek için oldukça önemli bir adım olacaktır.
İnsan Düşüncesinin Geleceği
Günümüz yapay zekâsının ve dolaylı olarak Sistem 0’ın insan kontrolünden çıkıp dünyayı ele geçirebileceği fikri sadece bilim kurgu eserlerinde olan bir düşüncedir. [5] Her alandaki değişimler ve dönüşümler hızla gerçekleşirken bu değişimlere uyum sağlamak kaçınılmaz olacaktır. Teknoloji alanındaki değişimlerde ise yapay zekâyı, kendimize “rakip” olarak değil “ortak” olarak gördüğümüz taktirde insanlık için daha iyi bir gelecek inşa edilebilir.
