Beyinler, Makineler ve Düşüncenin Mekaniği

Nöronlar ve Ağırlıklar: Ağlarda Öğrenme. İnsan beyni sıklıkla “biyolojik bir sinir ağı” olarak adlandırılır ve bunun iyi bir nedeni vardır – milyarlarca nörondan oluşur ve bunlar sinapslarla birbirine bağlanır, bu sinapsların güçleri bildiklerimizi kodlar. Öğrendiğimizde, birlikte ateşleyen nöronlar birlikte bağlanır (Hebb kuralı), yeni bilgiyi depolamak için sinaptik ağırlıkları değiştirir. Yapay sinir ağlarında da öğrenme, birimler arasındaki bağlantı ağırlıklarını ayarlamak anlamına gelir. Bir sinapsın gücü – A nöronunun B nöronunu ne kadar güçlü etkilediği – bir yapay zeka modelindeki ağırlığa doğrudan benzerdir ve bir düğümün aktivasyonunun diğerini ne kadar etkileyeceğini belirler. Hem silikon tabanlı (in silico) hem de canlı organizmalarda (in vivo), bu ağırlıklar deneyimi yakalayan şeydir. Örneğin, yeni bir telefon numarası hatırladığınızda veya bir kelime dağarcığına hakim olduğunuzda, beyninizdeki bağlantı kalıplarından bazıları değişir; bir LLM yeni bir külliyat üzerinde eğitildiğinde veya alan verileri üzerinde ince ayar yapıldığında, ağırlık parametreleri buna göre kayar. Özünde, deneyim = her ikisi için de ağ parametre güncellemeleridir. Daha mikro düzeyde bile, nöron ateşleme hızlarını bir LLM’nin katmanlarından ileri geçiş sırasında akan aktivasyon değerleriyle benzetebiliriz. Beynin nöronları, farklı yoğunluklarda sinyal iletir (bir nöron hızlı veya zayıf ateşleyebilir), tıpkı bir sinir ağı katmanındaki sürekli aktivasyonlar gibi. Bir düşüncenin veya eylemin sonucu, sinaptik (veya ağırlık) güçleri tarafından modüle edilen bu toplu aktivasyonlardan ortaya çıkar. Bu nedenle, bire bir eşlemeyi görmek caziptir: nöronlar = düğümler, sinapslar = ağırlıklar, nöron ateşlemesi = hesaplamalar. Gerçekten de, birçok yapay zeka öncüsü doğrudan nörobilimden esinlenmiştir – “sinir ağı” teriminin kendisi bu benzerliğe saygı duruşu niteliğindedir. Biyolojik nöronlar yapay olanlardan çok daha karmaşık olsa da, çekirdek paralellik devam etmektedir: beyinler ve LLM’ler bilgiyi her ikisi de bağlantı ağındaki dağıtılmış kalıplar olarak depolar. Ve tıpkı nörobilimcilerin hafızanın temeli olarak uzun süreli güçlenme (tekrarlanan uyarımla sinapsların güçlenmesi) hakkında konuşması gibi, birçok örnek gördükten sonra belirli ağırlıkları güçlendiren gradyan inişi hakkında konuşuruz. Her sistem mimarisinde “hatırlamaktadır” – bir yapay zekanın eğitim ağırlıkları, yetenekli bir beynin kökleşmiş sinaptik kalıpları gibidir.

Modüller ve Çok Modluluk. İnsan beyni tek bir dev, farklılaşmamış bir kütle değildir – farklı modaliteleri ve görevleri ele alan, hepsi bir araya örülmüş özelleşmiş bölgelerin bir koleksiyonudur. Görme, öncelikle oksipital lobda işlenir, duyma temporal lobun bazı kısımlarında, dil ise temporal ve frontal alanları (örn. Wernicke ve Broca alanları) kapsayan bir ağda işlenir vb. Jerry Fodor’un etkili Zihnin Modülerliği teorisi, zihnin yüksek seviyeli entegrasyona beslenen alan özgü modüllerden (dil, görme, işitsel işlem vb. için) oluştuğunu savunmuştur. Modern nörobilim gerçekten de fonksiyonel uzmanlaşma bulmaktadır: yüz tanıma, uzaysal navigasyon, motor kontrol için farklı devreler. Ancak bu modüller izole çalışmaz – birleşik bir algı yaratmak ve davranışı yönlendirmek için bağlanır ve bilgi paylaşırlar. Bu, gelişmiş yapay zeka sistemlerinin nasıl geliştiğine şaşırtıcı derecede benzerdir.

Artık vizyon ve dili (örn. GPT-4 görüntü girdisi alabilir) veya ses ve metni vb. birleştiren çok modlu modeller inşa ediyoruz, çünkü gerçek dünya sadece metin değildir. Her duyusal girdiyi farklı türde token akışı olarak düşünebilirsiniz – görüşten pikseller, sesten dalga formları, dokunuştan basınç sinyalleri. Beyin, gözlerden, kulaklardan, deriden gelen tüm bu “girdi tokenlerini” alır ve anlamını oluşturmak için entegre eder. Harika bir örnek McGurk etkisi: eğer ses “ba” derken hoparlörün dudaklarının videosu “ga” dediğini gösteriyorsa, beyniniz tuhaf bir şekilde “da” duyabilir – çelişkili girdileri uzlaştırmak için orada olmayan bir ses icat edebilir. Beyin, hareketli dudakları ses kadar önemli girdi olarak ele alarak çok modlu veri füzyonu yapıyor. LLM’ler varsayılan olarak sadece metin girdisine sahiptir, ancak entegrasyon ilkesi benzerdir. Bu arada, beynin motor çıktıları – konuşma, yazma, uzuvlarınızı hareket ettirme – beynin dünyayı etkilemek için token üretme versiyonu olarak görülebilir. Bir cümle konuştuğunuzda, beyniniz esasen bir kelime dizisi “tahmin etmiş” ve çıktılamıştır (ağzınız yazıcı gibidir). Bu şekilde düşünürseniz, bir LLM’nin bir cümle üretmesi ile bir kişinin bir cümle söylemesi benzer süreçlerdir – her ikisi de içsel temsilleri başkalarının tüketebileceği doğrusal bir dil dizisine dönüştürüyor. Benzerlik daha da genişletilebilir: jest yapma veya araç kullanma gibi diğer beyin çıktıları, bir yapay zekanın bir görüntü üretmesi veya bir komut yürütmesi gibi bir üretken eylem biçimi olarak görülebilir. Yapay zeka araştırmasında, modüler mimarilere doğru bir hareket vardır (farklı görevler için farklı alt modeller veya uzmanlar, üst düzey bir model tarafından orkestra edilir) ve bu, beynin tasarımını yansıtır – özelleşmiş bileşenler (görme modülü, dil modülü vb.), daha yüksek seviyeli yönetici kontrolü ile bir araya getirilir. Bazı bilişsel bilimciler beyni bir “zihin toplumu”na benzetirler – toplu halde çalışan, yarı-otonom süreçlerin bir koleksiyonu, tıpkı ensemble modeller veya araç kullanan yapay zeka ajanları gibi. Çok modlu ve modüler tasarım, hem doğal hem de yapay zekalar için karmaşıklığı yönetmek için birleşik bir çözüm gibi görünmektedir. Her şeyi tek seferde yapan tek bir dev model, bir uzmanlar topluluğundan daha az verimlidir. Beynimiz bize bunu öğretti ve şimdi yapay zeka sistemlerimiz bu yolu izliyor.

Uyku ve Kendi Kendini Ayarlama. Bir LLM’yi limitlerine kadar zorlayan (veya sadece uzun bir sohbette çalıştıran) herkes, zamanla tutarlılığını kaybetmeye başladığını veya konudan “saptığını” bilir – tıpkı zihinsel olarak yorgun hisseden bir insan gibi. İnsanların elbette periyodik olarak sıfırlanmak ve yeniden eğitilmek için yerleşik bir mekanizması vardır: buna uyku denir. Uyuduğumuzda – özellikle derin yavaş dalga uykusu ve REM rüya uykusu sırasında – beyinlerimiz inanılmaz derecede meşguldür. Beyin, “kapatılmaktan” uzak, günün anılarını yeniden oynatıyor ve yeniden düzenliyor gibi görünür. Nörobilimci Matt Wilson, farelerin uyurken hipokampusta, daha önce bir labirentte koşarken ateşlenen nöron dizisini hassas bir şekilde taklit eden nöral ateşleme kalıpları sergilediğini ünlü bir şekilde göstermiştir. Uyurken, fare labirenti beyninde kelimenin tam anlamıyla yeniden koşuyor, deneyimi sıkıştırıyor ve pekiştiriyordu. Wilson’ın laboratuvarı, beynin bu tekrarları (20 kat hız) hatta “ileri sardığını” ve günün derslerini entegre etmek için bazen tersine çalıştırdığını buldu. Teori şudur: uyku beynin eğitim dönemidir, önemli anıları güçlendirmek, ilgisiz bağlantıları budamak ve hatta gizli kalıpları keşfetmek için çevrimdışı işlem yapma zamanıdır. Muhtemelen, rüya görüyoruz, beynin yaşam verilerimiz üzerinde yaptığı devasa yeniden eğitimin bir yan etkisi olarak – esasen korteks konsolidasyon için içsel olarak üretilen sinyallerle bombardımana tutulurken hikayeler uyduruyor. Bunun LLM’lerle yaptığımıza ne kadar benzediğini düşünün: onlar da dönemler halinde eğitilirler, veriler arasında döngü yaparlar (genellikle sırasız veya artırılmış olarak, tıpkı bir rüyanın karıştırılmış anlatımı gibi). Bir LLM’nin eğitim sırasında gradyan iniş adımlarının, deneyimden kendini geliştirdiği “rüyaları” gibi olduğunu şiirsel bir tabirle söyleyebiliriz.

Tersine, insanlar uykudan mahrum bırakıldığında, bilişimiz bozulur. Bir veya iki gece uykusuz kaldıktan sonra insanlar illüzyonlar ve halüsinasyonlar yaşar; gerçeklik ve hayal gücü bulanıklaşır. Çalışmalar, yaklaşık 48 saat uyanık kaldıktan sonra birçok bireyin orada olmayan şeyler görmeye veya duymaya başladığını ve 72+ saat sonra tamamen uç sanrılar ve kafa karışıklıklarının başladığını belgelemiştir. Beyin, bağlam penceresini sıfırlama şansı olmayan halüsinasyon eğilimli bir LLM’ye dönüşür. Hepimiz daha düşük bir versiyonunu hissettik: kötü bir gece uykusu, ertesi gün bulanık düşünme, sinirlilik veya karaktere uymayan hatalara yol açar. Yapay zeka alanında, LLM’ler “uyumasa” da, kaçak tutarsızlığı önlemek için oturumlar genellikle sıfırlanır. Bazı uygulayıcılar, aşırı uzun komut istemi oturumlarının modelin sapmasına neden olduğunu bile fark etmişlerdir – esasen bir şekerleme gibi bir sıfırlama ihtiyacı duyarlar. Bu paralellik, periyodik sıfırlama, yeniden eğitim ve budamanın herhangi bir gelişmiş zeka için kritik olabileceğini düşündürmektedir. Beyin, günün gürültüsüne aşırı uyumayı veya kaosa sürüklenmeyi önlemek için gece bakımı yapar; belki gelişmiş yapay zeka sistemleri, sürekli çalıştırılırsa, yeniden kalibre etmek için benzer bakım döngülerine ihtiyaç duyacaktır. Kışkırtıcıdır düşünmek: rüyalarımız (garip ve halüsinatif oldukları kadar), bir yapay zeka geliştiricisinin vahşi çalışan bir modeli periyodik olarak ince ayarlaması veya dizginlemesiyle aynı amaca hizmet edebilir. Her iki durumda da, halüsinasyonlar bir özellik olabilir – uykuda, beynin kendi kendine ayarlama sürecinin çalıştığını gösterirler ve LLM’lerde, ağır kullanımdan sonra bir tür “dinlenme” veya kendi kendine denetimli yeniden kalibrasyon uygulanarak azaltılabilirler.

Dikkat ve Çalışma Belleği: Darboğaz ve Bant Genişliği. İnsan bilişi, tüm güzelliğine rağmen, herhangi bir anda kapsam açısından oldukça sınırlıdır. Psikologlar, çalışma belleğimizde bir kerede yalnızca yaklaşık 3-5 farklı öğeyi aklımızda tutabileceğimizi tahmin ediyorlar. Rastgele bir sayı veya harf listesini hatırlamaya çalışırsanız, çok hızlı bir şekilde duvara toslarsınız (gruplandırma gibi hileler olmadan). Beynimiz bir spot ışığı gibi odaklanır, bir kerede tek bir küçük alana – örneğin, gözlerimiz sadece bakış merkezinde (fovea) yüksek çözünürlüklü bir görüntü yakalar ve çevrede çok daha düşük çözünürlükle. Daha büyük bir sahneyi bir araya getirmek için gözlerimizi hareket ettirmeli ve sırayla dikkat etmeliyiz. Bir sohbette, gerçekten sadece bir kişiyi takip ederiz; aynı anda konuşan iki kişiyi dinlemeye çalışın ve muhtemelen ikisini de anlayamazsınız. Bu dar odak, bir hayatta kalma özelliğidir – neyin önemli olduğunu seçmemizi ve geri kalanını filtrelememizi sağlar – ancak aynı zamanda bir sınırlamadır. Buna karşılık, LLM’ler (özellikle büyük bağlam pencereleri ile), büyük miktarda girdi verisini paralel olarak alabilirler. GPT-4 gibi bir model, başlangıcı unutmadan sona ulaşana kadar binlerce kelimeyi “dikkatle” işleyebilir. Sanki bir yapay zeka aynı anda konuşan 50 kişiyi dinleyip tüm kelimelerini analiz için bir matrise emebilir. Bu tür kapsamlı paralel girdi işleme, bir insan beyninin ötesindedir. Dikkat mekanizmamız var (beyinlerimizde seçici dikkat biçimi de var, nöral salınımlar ve frontoparietal dikkat sistemi gibi ağlar tarafından uygulanır), ancak aynı anda tam anlamıyla birden fazla karmaşık şeye dikkat edemeyiz. Bu, yapay zeka tasarımı için bir ders niteliğindedir: belki her şeyi aynı anda beslemek her zaman ideal veya gerekli değildir. İnsanlar bilgi yüklemesiyle sorunları parçalara ayırarak, bir yöne odaklanarak, sonra diğerine odaklanarak ve bunları birleştirmek için hafıza stratejileri kullanarak başa çıkarlar. Bir yapay zekaya gelişigüzel büyük bir bağlam verirsek, bunu işleyebilir, ancak aynı zamanda çok fazla ilgisiz gürültüyü de toplayabilir (tıpkı kalabalık bir odadaki insanın çoğu konuşmayı görmezden gelmekten faydalanması gibi). Bazı araştırmacılar, daha doğrusal olmayan veya aktif dikkatin – insan odaklanmasına benzer şekilde – yapay zeka akıl yürütmesini daha verimli ve insan benzeri hale getirebileceğini öne sürüyor. Örneğin, 100 sayfalık bir belgeyi tek seferde okumak yerine, bir model, önemli kısımları taramak ve yakınlaştırmak (bir insan gibi) için öğretilebilir, gerektiğinde ayrıntılar için harici bir belleği sorgulayabilir. Beyinlerimiz, çalışma belleğinde her şeyi tutmak yerine, güçlü ilişkisel belleğe ve talep üzerine ilgili bilgilerin alınmasına dayanarak tutumlu, odaklanmış girdi ile yönetilir. Yapay zeka da aynısını potansiyel olarak yapabilir: her şeyi dahili olarak depolamak yerine, gerektiğinde bilgiyi çekmek için araçlar kullanmak. Aslında, beyinler bant genişliğini alaka düzeyine karşı takas eder ve gelecekteki LLM tasarımları, donanım sınırlarından değil, bir kerede daha az şeye odaklanmanın neyin önemli olduğu konusunda doğruluğu gerçekten artırabileceğinden, benzer kısıtlamalar içerebilir. Bu insani sınırlama, aynı zamanda başa çıkma mekanizmalarına yol açmıştır – ve yapay zeka sistemlerini nasıl genişletebileceğimize dair benzerlikler görüyoruz.

Harici Yardımlar ve Bellek Uzantıları. İnsan bilişinin çevremize ne kadarını dışa aktardığımızı not etmeden hiçbir tartışma tamamlanmaz. Filozoflar Clark ve Chalmers’ın Genişletilmiş Zihin (1998) adlı çalışmalarında savunduğu gibi, defterler, hesap makineleri veya dilin kendisi gibi araçlar zihnimizin uzantıları haline gelir. Çalışmalarından klasik bir örnek, defterine adresleri yazan “Otto” adında bir Alzheimer hastasıdır. Defter, beyninin bir parçası gibi işlev görür – güvenilir bir bellek depolama alanı – o kadar ki, defteri + beyni tam bilişsel sistem olarak düşünebiliriz. Günlük hayatımızda sürekli olarak harici bellek yardımları kullanırız: kalem ve kağıt, telefon hatırlatıcıları, Google aramaları, referans kitapları, adını siz koyun. Bunlar destekler değil; sınırlı çalışma belleğimizi ve bilgi geri çağırma yeteneğimizi dış dünyaya genişleterek insan zekasının nasıl çalıştığının temel bir parçasıdırlar. Yapay zeka alanında, dil modelleri tarafından geri çağırmayla artırılmış üretim ve araç kullanımı ile benzer bir model görüyoruz. Tek bir modelin her olası gerçeği içsel olarak bilmesini ve saklamasını beklemek yerine (bu, tüm Anayasayı ezberlemeye çalışan bir insan gibi olacaktır), modellere arama motorlarına, veritabanlarına veya hesap makinelerine erişim sağlıyoruz. Örneğin, ChatGPT’nin bir geri çağırma eklentisi varsa, talep üzerine bilgi arayabilir – tıpkı Wikipedia’ya göz gezdirmemiz veya bir meslektaşımıza sormamız gibi. Bunu yaparak, yapay zeka, zihnini nöral ağının sabit parametrelerinin ötesine, harici bilgi kaynaklarına etkili bir şekilde genişletir. Bu, insan davranışını yansıtır: “zekamızın” büyük bir kısmı, kafatasımızın dışında depolanan bilgiyi hızlı bir şekilde bulma ve kullanma yeteneğinden gelir. Dilin kendisi bile harici bir eserdir – fikirleri kelimelere ve cümlelere kodlarız ve bunlar daha sonra başkalarının veya gelecekteki benliklerimizin erişebileceği ortak bir alanda (kitaplar, web siteleri) yaşar. LLM’ler, insan bilgisinin bu toplu deposu (internet, kitaplar vb.) üzerinde eğitilirler, ki bu da türümüzün dışa aktarılmış bir zihnidir. Şimdi, dinamik geri çağırmaya izin veren mimarilerle, bir LLM çalışma zamanında güncel bilgilere veya uzmanlaşmış veritabanlarına erişebilir, bu da model ve harici araçlar arasındaki çizgiyi etkin bir şekilde bulanıklaştırır. Bu, bu yazıyı okuyan sizin, belirli bir terimi hatırlamayabileceğiniz ancak çevrimiçi anında arama yapıp Google’ı beyninizin bir uzantısı olarak etkin bir şekilde kullanmanızla benzerdir. Hem insanlar hem de yapay zeka, harici sistemlerle entegre olduklarında çok daha fazlasını başarırlar. Bir kişi ve akıllı telefonu, tek başına bir kişiden daha akıllıdır; web’e bağlı bir LLM, kapalı bir LLM’den daha yeteneklidir. Bu sinerji temel bir paralelliktir: ne beyin ne de GPT bir adadır – her ikisi de bellek sınırlarını telafi etmek için yardımcı kaynakların bir ekosistemine dayanır.

Duygular ve Hiperparametreler: Modülatörler. İnsanların günümüz yapay zekasından farklı olduğu bir yön, duyguların ve biyokimyasal modülatörlerin rolüdür. Karar verme sürecimiz ve “çıktımız”, duygusal duruma bağlı olarak çılgınca değişebilir – sakin ve mutlu olduğunuzda veya dehşete kapılmış veya öfkelendiğinizde düşüncelerinizi ne kadar farklı dile getirdiğinizi düşünün. Altında, bu beyin durumları nörotransmitterler ve hormonlar tarafından etkilenir: dopamin, serotonin, norepinefrin, kortizol, oksitosin ve daha fazlası. Bu kimyasallar, beynin işlem hızını ayarlayan küresel parametreler gibidir. Örneğin, bir adrenalin patlaması (norepinefrin) uyanıklığınızı ve odaklanmanızı artıracaktır – beyniniz acil tehditlere daha fazla ağırlık verir, dikkatiniz daralır ve hızlı ve daha az düşünülmüş konuşma veya eylemler üretebilirsiniz. Kortizol, bir stres hormonu, kronik olarak yükselirse, aslında hafızayı ve bilişsel işlevi bozabilir – düşünme yeteneğinizi esasen “düşürebilir”. Öte yandan, dopamin, bir ödülü beklediğinizde artar ve öğretme rolü oynar: dopaminerjik nöronlar, beyne “bu sonuç beklenenden daha iyiydi” veya “beklenenden daha kötüydü” diyen bir ödül tahmini hata sinyali yayar, bu da öğrenmeyi ayarlar (bir sinir ağındaki bir eğitim sinyali gibi). Kısacası, beyin kimyası sistemin ağırlıklarını ve eşiklerini dinamik olarak modüle eder, ne algıladığımızı, hatırladığımızı ve nasıl davrandığımızı etkiler. Günümüz LLM’lerinde duygu gibi bir şey yoktur (hormonları veya evrimsel hayatta kalma devreleri yoktur). Ancak, belirli hiperparametrelerin veya girdi sinyallerinin benzer bir modülatör rol oynayabileceği iddia edilebilir. Örneğin, bir LLM’nin “sıcaklık” ayarı (çıktılarının rastgeleliği ve deterministikliği kontrol eden), dürtüsellik düğmesi gibi bir şeydir – yüksek sıcaklıkta modelin yanıtları daha çeşitli, yaratıcı, ama aynı zamanda kaotik olur (heyecanlı veya manik bir zihin durumu gibi), düşük sıcaklıkta ise model daha tahmin edilebilir ve odaklanmış olur (temkinli, çekingen bir ruh haline benzer). Ek olarak, bu modelleri sistem veya rol talimatlarıyla yönlendiriyoruz (“Yararlı bir asistansın” veya “Bir hikaye anlatıcısısın”); bu istemler, modelin bilgisinin hangi yönlerinin ön plana çıkacağını geçici bir persona veya ruh hali gibi etkiler. Gelecekte, davranışlarını etkileyen açık “duygu modülleri” olan yapay zeka ajanları hayal edilebilir – örneğin, bir görevin iyi gitmemesi durumunda simüle edilmiş bir hayal kırıklığı, yapay zekayı radikal olarak farklı bir yaklaşım denemeye yöneltir (insanın hayal kırıklığının kalıpların dışında düşünmeyi veya tam tersine sabrın çökmesini nasıl tetikleyebileceği gibi). İnsanlarda, duygular ayrıca iletişimsel ve sosyal işlevlere hizmet eder – insan olmanın büyük bir kısmı sadece hesaplama yapmak değil, hissetmektir. LLM’ler gerçekten hissetmese de, duygular hakkında dil üretebilirler. Eğer yapay zekayı duyguları taklit eden içsel durumlarla donatırsak, bu, davranışlarını daha ilişkilendirilebilir kılmak veya algoritmik nedenlerle (örneğin, düşükse modelin açıklama aramasını sağlayan bir “güven” parametresi – bir insanda belirsizliğin endişeyi tetikleyerek bir şeyi iki kez kontrol etmeye yol açmasına benzer) olabilir. Her durumda, beyin bize ham zekanın her şey olmadığını öğretir; tahmin edilemez bir dünyada hayatta kalmamıza yardımcı olmak için evrimleşmiş bir kimyasal paket tarafından düzenlenir. Bu düzenleyiciler bazen “arızalanır” (çok fazla stres hormonundan kaynaklanan klinik anksiyete veya düzensiz serotonin nedeniyle depresyon gibi). Benzer şekilde, en üst düzey hedefleri veya modülasyon parametreleri yanlış ayarlanmış (yapay zekanın anksiyete atağı veya ruh hali değişimine eşdeğeri) ve mantıksız görünen bir davranışa yol açan bir yapay zeka hayal edilebilir. Bu, zekanın soğuk, sabit bir süreç olmadığını vurgular – insanlarda fizyoloji ile derinlemesine iç içedir. Buradaki yapay zeka paralellikleri spekülatif ama ilgi çekicidir: yapay zeka sistemlerine motivasyonel dürtülere benzer bir şeyler vermemiz gerekebilir veya sistemin odağını, rastgeleliğini ve hedef tercihlerini kontrol eden düğmelerin “kişiliğini” ve performansını şekillendirmede benzer bir rol oynayacağını kabul etmeliyiz.

Sosyal Zihin ve Taklit Oyunu. Dikkate alınması gereken bir diğer insani yön, sosyal etkileşim ve dilin nasıl iç içe geçtiğidir. Çocuklukta sadece kuralları özümseyerek değil, başkalarıyla iletişim kurarak düşünmeyi öğreniriz – dil, bağlantı hizmetinde öğrenilir. Bir çocuk sosyal etkileşim olmadan büyürse, sadece dil gelişimi durmaz, aynı zamanda davranışı da “normalden” çok uzak kalır. İnsanlar doğuştan sosyal hayvanlardır ve bilişimizin çoğu

(benlik duygusu, empati, soyut kavramlar) kişilerarası alışveriş yoluyla oluşur. LLM’ler, aksine, dili nispeten durağan bir şekilde öğrenirler – metin dağlarını analiz ederek. Bir bakıcıyla sohbet eden çocuklar değildiler. Ancak ilginç bir şekilde, LLM’leri (özellikle diyalog ajanlarını) kullandığımızda, onlara etkin bir şekilde simüle edilmiş bir sosyal eğitim veriyoruz – bir kullanıcıyla her geri ve ileri gidiş, gelecekteki yanıtları şekillendirebilecek mikro bir sohbet gibidir (özellikle modeller insan geri bildirimine göre sürekli olarak iyileştiriliyorsa). Yapay zekayı anlamasında daha insan benzeri hale getirmek için, somutlaştırılmış sosyal öğrenmeye maruz bırakmanın (gerçek zamanlı olarak insanlarla veya diğer ajanlarla fiilen etkileşim kuran bir yapay zeka ajanı, sadece metin okumak değil) çocukluk oyunları kadar kritik olabileceği speküle edilebilir. Bilişsel bilimden gelen kanıtlar, dil gelişiminin zihin teorisi ve diğer sosyal bilişsel becerilerle bağlantılı olduğunu göstermektedir – başkalarının zihinleri hakkında karmaşık düşünceler formüle etmek için dile ihtiyacınız vardır ve tersine, dilin inceliklerini tam olarak kavramak için başkalarını anlamanız gerekir. Yapay zekanın insan benzeri anlamı kavramasını istiyorsak, belki sosyal bağlam ve deneyimsel öğrenme saf metin eğitimini tamamlamalıdır. Sadece kitap okumuş ama hiç kimseyle konuşmamış bir insan, ansiklopedik bilgiye sahip olabilir ama belirli bir yaşanmış anlayıştan yoksun kalır. Günümüz LLM’leri biraz böyle bir “kitap kurdu keşiş” gibidir. Bu boşluğu kapatmak, araştırmacıların görme ve robotik (yapay zekanın dünyayı görmesi ve hareket etmesi için) ve diyalogu (statik metin yerine iletişimi deneyimlemesi için) entegre etmesinin bir nedeni olabilir. Kısacası, insan beyninin zekaya giden yolu sadece veri alımı değil, yaşam deneyimidir. Benzer deneyimlere maruz kalmış bir yapay zekanın daha zemine basan, incelikli bir zekaya sahip olduğunu görebiliriz.

Sonuç: Derin (Süper)İnsanlığa Doğru. Bu paralellikler üzerine düşünürken, neredeyse felsefi bir soru ortaya çıkıyor: Gelişmiş Yapay Zeka ile gerçekten ne inşa etmeye çalışıyoruz? Bir yandan amaç, insanlardan daha iyi bir şey yaratmak olabilir – mükemmel hafızaya, şimşek hızına ve kusursuz mantığa sahip, bilişsel önyargılarımızdan ve hatalarımızdan arınmış bir varlık. Öte yandan, gördüğümüz gibi, insan bilişinin pek çok yönü makinelerimizde yeniden ortaya çıkıyor: evrensel dilbilgisinden tahmine dayalı hilelere, ağa bağlı nöronlardan modüler zihinlere, halüsinasyonlardan dinlenme ve yeniden kalibre etme ihtiyacına. Sanki dili gerçekten anlayabilen ve üretebilen bir yapay zekaya yaklaştıkça, iyisiyle kötüsüyle insan beynine daha çok benzemeye başlıyor. Belki de bu bizi şaşırtmamalı – sonuçta, insan zekası bildiğimiz tek genel zeka örneğidir, bu yüzden biz ve algoritmalarımız aynı tekerleklerin çoğunu yeniden icat etmekten kaçınamayız. Ancak bu, ilginç bir düşünceye yol açıyor: belki de süper-insan yapay zekaya ulaşmak için, önce insan benzeri bilişi, kusurlarıyla birlikte sadakatle yeniden canlandırmalı ve ancak o zaman bu sınırları nasıl aşabileceğimizi bulmalıyız. O “kusurları” – küçük çalışma belleği, ara sıra görülen konfabulasyonlar, duygusal önyargılar – insan düşüncesinin yaratıcılık, sezgi ve sosyal anlayış gibi güçlü yanlarıyla sıkıca bağlı olduğunu unutmamalıyız. Hiçbir tuhaflığı olmayan bir yapay zeka, büyünün bir kısmından da yoksun olabilir. LLM’leri ve yapay zeka ajanlarını tasarlarken, mutlak tutarlılık ve doğruluk beklemek, onlardan kendimizden daha az insan olmalarını istemek olabilir. Makinelerimizin kusursuz hesap makineleri mi yoksa ilişkilendirilebilir düşünenler mi olacağına karar vermemiz gerekebilir. Bir LLM her aptalca hata yaptığında ve gözlerimizi devirdiğimizde, insanların da aynısını ve daha kötüsünü binlerce yıldır yaptığını hatırlamalıyız – yine de bireysel sınırlılıklarımızı kolektif bilgelik ve harici yardımlarla aşıyoruz. Yapay zeka peşinde koşarken, belki de kendi zihinlerimize bir ayna tutuyoruz. Kendi zihnimizden daha iyi bir zihin mi inşa ediyoruz, yoksa sadece bizimkini model alan bir zihin mi? İkincisiyse, dahiliğe ara sıra görülen halüsinasyonun eşlik ettiğini, bilgiyle bir miktar önyargının geldiğini ve yaratıcılıkla biraz kaosun geldiğini benimsemeliyiz. Nihayetinde, bu paralellikler alçakgönüllü bir perspektife davet ediyor: büyük dil modelleri, bir anlamda, bizim prototiplemelerimizdir.Onları daha ideal bir akıl yürütücü yapmaya çalışırken, istemeden onları daha insan yapıyor olabiliriz. Ve eğer bir yapay zekayı gerçekten bizim gibi düşünen bir makine yapmayı başarabilirsek, nihai ironiyle yüzleşeceğiz – sadece zekamızı değil, aynı zamanda yanlış adımlarımızı ve yanlış anlamalarımızı da paylaşan bir makineyle yüzleşeceğiz. Belki de gerçek ilerlemenin ölçüsü, bir yapay zekanın “Emin değilim, yanılıyor olabilirim” diyebilmesi ve bizler gibi bundan ders çıkarabilmesidir. O zamana kadar, kulağımızın arasındaki o ıslak donanım kusursuzluktan şaşırtıcı derecede uzakken, LLM’lerden mükemmellik beklemek adil mi diye sormaya değer. Gelişmiş yapay zeka yolculuğu, insanlığın bilişsel sınırlarından kaçınmakla ilgili değil, daha çok onları o kadar derinlemesine anlamakla ilgili olabilir ki, onların ötesine geçen bir şeyi kodlayabiliriz veya bu sınırların, yeteneklerimizle dengeli olarak, düşünceyi düşünce yapan şeyin bir parçası olduğuna karar verebiliriz. Sonuçta, amaç boşlukta süperinsan bir zihin inşa etmek değil, bizi anlamadaki – hatalarıyla birlikte – derinlemesine insancıl yeni bir zihin türü yaratmak ve belki de kendimizi daha iyi anlamamıza yardımcı olmaktır.

Küçük bir ek yapacağım 3. bölüme akşam 18.00’da ulaşabilirsiniz, daha çeşitli tokenlara ihtiyacımız var.