1993’te Yapılmış Bir Uyarı: İnsanüstü zekâ yaratıldığında, insanlık tarihi bildiğimiz anlamda sona erebilir
1993 yılı. İnternet henüz sınırlı bir ağ. Akıllı telefonlar yaygın değil. (İlk örnekler var ama kitlesel kullanım yok.) Sosyal medya henüz ortaya çıkmamış. Dünya hala analog reflekslerle yaşıyor. Ve o yıl matematikçi ve yazar Vernor Vinge bir makale yayımlıyor: “The Coming Technological Singularity” Yani, “Yaklaşan Teknolojik Tekillik”
Makaledeki en çarpıcı cümle şu:
“İnsanüstü zekâ yaratıldığında, insanlık tarihi bildiğimiz anlamda sona erebilir.” 1993’te bu cümle bir çoğumuz için bir bilim kurgu,hatta bir komplo teorisi gibi duruyordu. Bugün ise teknoloji dünyasının en ciddi tartışmalarından biri haline geldi. Yazara göre İnsan, kendisinden daha zeki bir sistem üretirse, o sistem daha da zeki bir sistemi tasarlayabilir. Bu süreç hızlanır.
Ve bir noktadan sonra insan zihni gelişimi anlayamaz hale gelir… (Bazen bunu hissetmiyor muyuz hepimiz? Zihinsel olarak yetersiz kalma hissi, bu kadar ileri seviye teknolojik gelişmeye yetememe korkusu…? Ben de zaman zaman kendini hissettiriyor, bence aramızda böyle düşünen başkaları da vardır)
Vinge buna “Tekillik” adını verdi. Buradaki “son” Nuh Tufan’ı gibi bir yok oluş değil. Burada öngörülebilir insan çağının sonundan bahsediyor yazar.
Öngörülebilir insan çağının sonu derken şunu kastediyorum:
Çağlara, gelişimlere, uyanış ve ilerlemelere bakalım…Her şeyi İnsan icat etti. İnsan karar verdi. İnsan hızında, kapasitenin de sınırını belirledi.
Ve en önemlisi İnsan yaptığı, icat ettiği, bulduğu şeyi anlama kapasitesine sahipti.
Yani değişim hızlı olsa bile, sınırlı sayıda da olsa, insan zihinsel gelişmeleri aklıyla kavrayabiliyordu.
Sanayi devrimi geldiğinde insanlar anlamlandıramasa da makinelerin ne yaptığını prensipte anlayabiliyordu. Hatta Atom bombası yapıldı ama bilim insanları bombanın fiziğini biliyordu. Yani kontrol de konuya hakimiyet de insandaydı. Daha da yani! Hepimiz “öngörülebilir” bir çağda yaşıyorduk.
Değişimin merkezinde insanın olduğu ve insan aklının süreci kavrayabildiği dönemdi. İşte Vinge bu insani merkezin kaymasından bahsediyordu makalesinde. Ve bunun sonucu olarak da “singularıty” yani “tekillik” kavramını ortaya attı.
Vinge tekilliğe giden dört ihtimalden söz eder:
İnsanüstü yapay zekânın geliştirilmesi
İnsan–makine entegrasyonu
Küresel ağ sistemlerinin bilinç benzeri yapılara dönüşmesi
İnsan zekâsının teknolojiyle radikal biçimde güçlenmesi
1993’te bunlar teoriydi.(Kuvvetle muhtemel komplo teorileri olarak bir kesim tarafından da yuhalanmıştır)
Peki ya Bugün?
– Büyük dil modelleri insan seviyesinde metin üretiyor.
– AI sistemleri kod yazıyor, analiz yapıyor, görsel tasarlıyor.
– Beyin–bilgisayar arayüzleri üzerine aktif çalışmalar var.
– Küresel ağlar milyarlarca insanın davranışını veri olarak işliyor.
– Yapay zekâ sistemleri başka AI sistemlerini optimize ediyor.
– Agentlar kendi uygarlıklarını! kuruyor, kendi dillerini üretiyor, kendi yasalarını koyuyor, hatta çoklu ajan simülasyonlarında “din” gibi kendi kuralları ve sembolik sistemleri olan bazı yapıları geliştirdikleri gözlemlendi. (Moltbook)
(Bu konuda daha önce detaylı bir yazı kaleme almıştım. İlgilenenler için: https://yuvayayolculuk.com/yapay-zekalar-kendi-sosyal-agini-kurdu-moltbook.html)
Şu anda hala insanüstü genel zekâ yok. Ama bir tsunami dalgası gibi karşı kıyıdan geldiği görülebiliyor. O dalga kıyıya vurduğunda boğulabiliriz demek istemiş yazar bence. Üstüne çıkıp surf yapmaya başlayanlar kurtulabilir belki. Kim bilir?
Tabii günümüzde bazı alanlarda makineler insanı geçti…Bakın nerelerde geçti, birkaç kısa örnek verelim:
Satrançta geçti – 1997’de IBM’in geliştirdiği Deep Blue, dünya şampiyonu Garry Kasparov’u yendi.
Go oyununda geçti – 2016’da AlphaGo, dünya şampiyonlarından Lee Sedol’u yendi.
Protein katlanmasında geçti – 2020’de AlphaFold, protein yapılarını tahmin etme probleminde büyük bir başarı elde etti. Bu sistem DeepMind tarafından geliştirildi. Protein katlanması biyolojinin onlarca yıllık açık problemlerinden biriydi.
Yüksek frekanslı finans işlemlerinde geçti – Finans piyasalarında yüksek frekanslı işlem algoritmaları: Milisaniyeler içinde karar veriyor. İnsan refleksinden hızlı işlem yapıyor. Piyasa mikro hareketlerini optimize ediyor.
Vinge makalesinde aynı zamanda tarihsel hızlanmaya da dikkat çeker.
Tarım devrimi binlerce yıl sürdü. Sanayi devrimi yüzlerce yıl. Bilgisayar devrimi onlarca yıl.
Peki ya Yapay zekâ devrimi? Sadece birkaç yıl içinde değil mi?
Takip edenler bilir, etmeye çalışanlar fark etmiştir, bir yapay zeka modelinin küresel yayılımı artık aylar içinde oluyor.
Güncellemeler haftalar içinde geliyor.Hele şu son aylarda önceki durgunluk birden bire yerini fırtınaya bıraktı. Her gün yeni bir gelişme akıyor teknoloji dünyasında, yetişemiyoruz. Evet takip etmeye bile yetişemiyoruz. ( en azından ben öyle hissediyorum)
Bu hızın, Vinge’in 1993 yılında öngördüğü eğriyle uyumlu olduğunu düşünüyorum.
Şimdi herkesin tüyleri diken diken eden o meseleye gelelim: “Kontrol”
Makaledeki en kritik noktalardan biri şu:
İnsanüstü zekâyı kontrol edebileceğimizi varsaymak yanıltıcı olabilir. Birkaç sevimsiz örnek de bununla ilgili verebilirim:
– Finans piyasalarında algoritmalar saniyeler içinde karar veriyor.
– Sosyal medya akışını insan değil algoritma belirliyor.
– Otonom sistemler sahada test ediliyor.
– İçerik üretimi ( en iyi senaryayo göre) insan + AI hibritine dönüştü. Kendi sosyal medya hesapları olduğunu da düşünürsek, bazı içerikler artık %100 AI. Ve anlaşılmayacak kadar gerçekçi olduğunu söylememek mümkün değil artık.
Bakın birçok uzmana göre bu sistemler bilinçli değil.(Bazı araştırmacılar bilinç ihtimalini tartışma konusu yapıyor) Mesela Anthropic’in (Claude AI) kurucularından biri olan Dario Amodei, daha birkaç gün önce “Büyük dil modellerinin nasıl karar verdiğini ve iç temsillerinin tam olarak nasıl çalıştığını henüz bütünüyle anlamıyoruz.” dedi.
Yani karmaşık bir hal aldı ve bu karmaşıklıkları insan kontrolünün sınırlarını zorluyor.
İşte Vinge bunu 1993’te yazdı. O yıllarda görmezden gelinecek bir uyarı değilmiş aslında, biz yeni anladık sadece. “Amaaannn bişey olmaz!” rahatlığı hep var insanoğlunda, ama artık bir tık “acaba?” desek mi acaba? Çin’in anasınıfı öğrencilerine AI dersleri vermeye başladığını da hesaba katacak olursak, bizdeki bu tevekkül hali, bir yapay zeka agentı tarafından öyle ya da böyle resetlenebilir gibi geliyor bana. Bilemedim.
Bir konu daha var: O da 40 yaş üstü jenerasyon.
Yani kıyamam, Analog bir dünyaya doğup, ramazan pidesi kuyruğunda saatlerce bekleyen masum çocuklardık hepimiz. Şimdi birileri kalkmış diyor ki “AGI gelmeden kendi zihinsel fonksiyonlarınızı yeniden tasarlayın.” Oysa Ramazan pidesi kuyruğunda beklerken en büyük kaygımız, pide soğumadan iftar topunu duymaktı.
Bu kuşak önemli çünkü:
– İnterneti sonradan öğrendi.
– Sosyal medyaya adapte oldu.
– Dijitalleşmeyi gözlemleyerek içine girdi. Ve bu güzeller güzeli nesil dijitale adapte oldu ama algoritmik dünyaya doğmadı.
Ama geldiğimiz noktada yapay zekâ farklı. Bu sadece yeni bir platform değil. Bu düşünme biçimini değiştiren bir yapı. Bu resmen bilinç sıçraması istiyor.
Bu saatten sonra AI’yı küçümsemek risk. Korkup tamamen dışında kalmak daha da büyük risk. Korkutan tarafı teknik uzmanlık gerektiriyor yanılgısı aslında mesele zihinsel adaptasyon.
Yani özetlemek gerekirse:
Algoritmik düşünceyi anlamak.
Veri mantığını kavramak.
Öğrenme hızını artırmak.
Eğer adaptasyon olmazsa, hızın gerisinde kalınır. Ve hız beklemez.
Vinge, “İnsanüstü Zekâ”dan bahsediyordu yazısında. Bu henüz gerçekleşmedi. Ama insan zekâsının parçaları makinelerle paylaşılmaya başlandı mı?
Evet.
Belki tekillik bir gün bir başlıkla gelmeyecek. Belki yavaş yavaş merkez kayacak. Ve biz geriye dönüp “Ne zaman oldu bu?” diyeceğiz.
Ben bunu korku hikâyesi olarak okumuyorum. Teknolojik gelişmeleri öcü geldi kaçın uyarılarına dönüştürmek büyük bir yanlış aynı zamanda da korku ile insanlık frekansını düşürmek gibi bir sonuca götürmek riskini de almamak gerektiğini düşünüyorum.
Makaleyi okuduğumda bir kez daha, öncesinde defalarca ve şimdi de bir kez daha, hazırlık çağrısı yapmak dürtüsü ile oturdum klavye başına.
Nasıl hazırlık yapacağız diye soracak olanlara; öncelikle korkudan sıyrılmamız gerekiyor. Korku “bilinmeyen” bir şeye hissedilen karanlık bir duygudur. Bilmediğimizden korkarız. Dolayısıyla bilmek ve anlamak için öğrenmeliyiz.
21 yıllık bir öğretmen olarak, 21. yy zihinsel becerilerin en üstüne şunu rahatlıkla yazabilirim: ” Sürekli Eğitim, sürekli öğrenme çağındayız ve zaten tüm bilgiye erişim platformları bedava ve buna hizmet etmek için varlar. Karşılığında bize ait olan tüm dataları aldılar ve işte bugünkü teknolojiyi geliştirmek için yani “veri analizi” için kullandılar. Bari verdiğimizin karşılığını “bilgi” olarak geri alalım.
– AI’yı araç olarak kullanmayı öğrenmek
– Onunla birlikte üretmek
– Zihinsel esnekliği artırmak
– Öğrenme refleksini diri tutmak zorundayız.
Bana AI ‘ı tarif et diye sorduklarında şöyle söylüyorum: “HIZ” AI bir yazılım değil, hız çarpanıdır. Ve hız karşısında iki refleks vardır:
Donmak ya da ona mümkün olduğunca uyumlanmak. Bunun için de güncel dünyanın gerektirdiği zihinsel kapasiteye evrilmek.
1993’te bir bilim insanı insanlığın bir eşik yaklaşımında olduğunu yazdı.
O gün ne sosyal medya vardı, ne mobil dünya, ne de bugünkü yapay zekâ araçları.
Ama hızlanmayı gördü. İşte biz bugün, o hızın içindeyiz.
Bu sürecin pasif izleyicisi mi olacağız, yoksa bilinçli katılımcısı mı? Buna karar vermemiz gerekiyor.
Tekillik gelip gelmeyeceğini bilmiyoruz. Ama zekânın yön değiştirdiğini biliyoruz ve yön değiştiğinde yerinde duranlar geride kalacaktır. Yazının yukarıda bir yerlerinde bahsettiğim o tsunami dalgası tüm dünya insanları için geliyor, ve bazıları gerçekten dalgaların üstüne çıkacak, bunlardan biri neden olmayalım?
Bu yazıya ilham olan Vinge’in makalesinin tamamını okumak isteyenler için aşağıya link bırakıyorum.
Not: Bu yazının araştırma sürecinde yapay zekâ araçlarından yararlanılmıştır. İçerik, yorum ve değerlendirmeler yazara aittir.
