Dikkatinizi çekti mi, bugünlerde bir şeyler yazan herkes değindiği konuyla ilgili genAI ile üretilmiş bir görsel de ekliyor içeriğe. Biraz estetik algısı olanlar ve genAI yapılarını bilenler gerçek bir görsel ile bir çırpıda üretilmiş olan genAI görseli arasındaki farkı kalitesinden kestirebiliyor.
GenAI görselleri oldukça düşük seviyede, bir derinliği yok, hepsi birbirine benziyor... Sırıtıyor. Hele sonradan üretme Atatürk fotoğrafları tam bir facia. Her dijital mecra bu tip vasat üretimlerle kaplanmakta.
Geçenlerde, Anthropic yöneticisi Dario Amodei CFR konuğu olarak bir söyleşi yaptı ve yakın zamanda üretilen "kodların" büyük çoğunluğunun genAI ile yazılacağını söyledi. Bence de, tahminen kodlama işini makineler yapacak gelecekte. Neyse ki yazılım mühendisliği, bilenler için, kodlamanın ötesinde bir kavram ve tanımı itibarıyla, yazılacak olan yeni programlar eskiden yazılmış programların bir permütasyonundan daha fazlası anlamına geliyor.
Büyük ihtimalle, meslek dışından gelen ortalama insanın tetiklemesiyle üretilecek genAI kodları aynı yukarda bahsettiğim vasat görseller gibi her yeri kaplayacak. Sadece konuya hakim olan profesyoneller rakiplerini alt edecek nitelikte yazılım sistemleri hayata alabilecek ve her yeri kaplayan başarısız "yapay üretme" kodlardan olabildiğince uzak durmaya çalışacak. Zaten, bir süre sonra da kendi üretiminin kısır döngüsü içinde kalan genAI yapıları "model collapse" denen kadere boyun eğecek.
Geleceği bilemem tabi ki ama bir ölçüt ortaya koyabilirim: Yazılım sektöründeyseniz ve bir bilgisayar programına bir bakışta yapısını anlayamıyor, olması gerekenleri tarif edemiyorsanız, internete bağlı değilken editörünüz boş kalıyorsa, "kodlayan genAI" sizi yakında işinizden edecek. Sonra da, eğer yazılım üretiminden gelir yaratıyorsa, şirketiniz batacak.
Özün özü: Zeka kullanmayanların işini, yapay veya değil, zeka kullananlar yok edecek.
Her zaman olduğu gibi...
Geçenlerde dijital ikiz üzerine kısa bir hikaye yazmıştım, oldukça beğenilmişti. Bu konuyu bir süre rafa kaldırırım diye düşünüyordum. Fakat, hayat öyle akmadı...
Önce, ünlü fütürist Ray Kurzweil'in kızı, New Yorker karikatüristi Amy Kurzweil ve Kaliforniya Üniversitesi felsefe hocası Daniel Story tarafından kaleme alınmış olan bir makale çıktı karşıma. Okumak isterseniz burada. Makalede, Amy Kurzweil, yıllar önce hayata veda etmiş olan hiç tanımadığı dedesi Fredric Kurzweil'den geriye kalan yazılar, günlükler, notlar vb. bilgileri kullanarak geliştirilmiş bir sohbet yazılımı "Fredbot" ile olan etkileşiminden bahsediyor. Bunun ötesinde, yazarlar, genel olarak ölmüşlerin geriye kalan verileri üzerinden yapay zeka teknikleriyle dijital ikiz yaratma düşüncesinin etrafında dolanarak bir fikir cimnastiği yapıyorlar. Birçok alışılagelmiş sınırı zorlayan, bir taraftan Pinokyo, diğer taraftan Dr. Frankenstein eserlerine dokunan; modern zamanlarda da bazı dizi ve filmlerde ele alınmış olan, gayet çekici bir konu. Teknik açıdan ne kadar yapılabilir olduğunun ötesinde, işin sosyal imkanlarının belirlenmesinde ahlaki, geleneksel ve dini faktörler de devreye girecektir tabi.
Sonra, ünlü bir danışmanlık firmasında görev yapan kıdemli analistlerden birinin konuştuğu bir seminere katıldım. Geleceğin kurumsal yazılım ekosistemi üzerine olasılıklardan, bazı senaryolardan bahsedildi. Ve bu seminerde de otonom yapay zeka unsurlarının (agentic AI) birer müşteri olarak insanların namına alışveriş, yatırım, ödeme, sipariş planlama vb. yapacağı söylendi. Konu yine şahsi dijital ikizlere bağlandı.
Sonra, Satya Nadella'nın Dwarkesh Patel ile yaptığı söyleşiyi izledim. Uzun bir video ve çok farklı konularda hem Microsoft'un, hem de kendisinin duruşunu ve yaklaşımını ifade ediyor Nadella. Benim en çok ilgimi çeken kısmı ise "beyaz yaka" diye tabir edilen, "bilgi işçisi" de dediğimiz, Nadella'nın da videoda "cognitive labor" olarak dile getirdiği sınıfın ne olduğu ve üretken yapay zeka çağında neye dönüşeceği. Bu noktada da bilgi işçilerinin mesaj okuma, toplantı notu alma, rapor okuma, yazma, özetleme, zaman planlama gibi görevleri dijital asistanlarına devredeceklerinden bahsediliyor. Tabi ki bu asistanlar giderek şahsileşecek, asıl çalışanın verileri üzerinden onun bir tür dijital uzantısı veya ikizi haline gelecektir ki yapılan bilgi işleme ve üretimlerinde kişisel kalite faktörleri ortaya konabilsin. Microsoft, tarihinin başından beri bilgi işçilerinin tanımını, sağladığı araçlarla, yapmış bir kuruluş. Belli ki şimdilerde de bizler için bir kader biçiyor... Ama bu başka bir yazı konusu. Şimdilik şahsi dijital ikiz tarafında kalalım.
Ben, işletmlerin operasyon verileri üzerinden eş anlı simülasyon yazılımlarıyla alternatif planlama, öngörü, arıza tespiti, üretim optimizasyonu gibi işlemlerin yapılması ve bunun adına dijital ikiz denmesi fikrine hem alışığım, hem de bu yaklaşımla barışığım. Fakat, konu insanın dijital ikizine gelince aklım karışıyor. Beni bu mevzuda şüpheye iten düşünceler ahlaki veya sosyal etkilerle ilgili de değil. Tamamen veriyle ilgili.
Benim nazarımda, varoluş demek var olanın evrene yaydığı bilgi ile mümkün olan ve bu bilgi üzerinden kendini belli eden bir kavram. Bu yaklaşımım canlı ve cansız her varlığı kapsıyor. Fakat, burada sadece insanlara yöneleceğim. Çevreye fiziken yaydığımız bilgileri düşünelim: Boyumuz, ağırlığımız, görünüşümüz, yüzümüzün ifadesi, saçlarımız, sesimiz, kokumuz, hareket tarzımız, ısımız, parmak izimiz vb. akla ilk gelenler. Bütün bu vücutsal varoluş evrenimizin içinde, zihinsel süreçlerimiz de organik biçimde çalışarak hem çevreden bilgi toplayıp işlemekte, hem de bilişsel süreçlerimizin bir çıktısı olarak sembolik bilgiler üretmekte: Dil, işaretleşme ve matematiksel ifadeler de dahil her türlü sembolik bilgi kategorisini en kapsayıcı haliyle düşünelim. İşte biz, bütün bu bilgi deryası sayesinde varız.
Kişisel bilgilerin mahremiyeti ve işlenmesi hakkında bu bakış açısıyla düşündüğümüzde ufkumuz da olduka genişliyor. Bugün sadece insani algı yetenekleri çerçevesinde ses, görüntü ve sembolik kimlik bilgileri üzerinden bir yargı oluşturma anlayışı hakim. Bir kurum rızanız olmadan siz yolda yürürken güvenlik kamerasıyla video kaydınızı alırsa, o kuruma başvurarak ilgili kaydın silinmesini talep edebilirsiniz. Ve bu talebinizde haklı olursunuz. Bu örnek, yaydığınız optik bilgilerle sınırlı. Oysa, kokunuzu bilen bir köpek, siz o sokaktan geçtikten saatler sonra sokağı koklayıp sizin oradan geçmiş olduğunuzu anlayabilir. Yani, varoluşunuzdan kaynaklı evrene yayılan kişisel kimyasal bilgileriniz sanki bulaşıcı bir yapıymışçasına ortamda kalır. Eğer bir önceki örnekte güvenlik kamerasıyla sizi kaydetmiş olan kurumun bir köpeğin burnu gibi çalışan güvenlik amaçlı kimyasal sensörleri de varsa ve siz ortamda yokken dahi bir süre önce oradan geçtğinizi tespit edebiliyorsa, kişisel bilgilerin mahremiyeti ve işlenmesi konusunu nasıl ele alacağız? Dedim ya, oldukça ufuk açıcı ama bu da başka bir yazının konusu :)
Gelelim insanların dijital ikizlerini yaratmakta ortaya çıkacak olan bilgi problemlerine. Eğer ikiz yaratmaktaki amaç kişinin tam bir simülasyounu ortaya koymaksa, bu iş çok zor diyebilirim. Çünkü, insanın varoluşundan kaynaklı ortama yaydığı bilgiler, az evvel bahsettiğim gibi, çok çeşitli. İşin kötüsü, bu bilgiler hayat boyu kayıt altına alınmıyor, fragmanlar halinde kaydedilmiş oluyor. Yani mükemmel simülasonu engelleyen temel bir bilgi eksikliği problemi var ortada. Bu sorun doğumdan başlayan çok boyutlu, kesintisiz veri kaydıyla aşılabilir belki uzak bir gelecekte. Tabi, böyle bir gelecek bence çok gayrı insani olacaktır. Asıl problem daha büyük: Biz insanlar, sadece ortama yaydığımız bilgilerden ibaret değiliz. Bizi biz yapan, karakterimizin nüvesini oluşturan birçok bilgiyi sessizliğimizde muhafaza ederiz. Eylemlerimiz ve açıkça ortaya koyduğumuz mesajlarımız kadar eylemsizliklerimiz ve sessizliğimiz de varoluşumuzun formülünde büyük yer tutar. Bugünün bilgi kaydeden teknolojileri bahsettiğim bu sessizlik veya eylemsizlik hallerini kaydedemiyor. Dolayısıyla, bilgi temsili ve bilgi işleme açısından dramatik bir tanımsızlık durumu var. Hiçbir yapay zeka modeli ortaya koymadığınız ama koyabilme potansiyeli taşıdığınız bilgiler üzerinden eğitilemez. Modeller sembolik bilgiye muhtaçtır. Data Science Days 2024 etkinliğinde Akan Abdula, pazarlama yazılımlarından bahsederken "biz artık yapay zeka ile insanların bilinç altına ve derindeki motivasyonlarına ulaşmaya çalışıyoruz" demişti. Bence ortaya koyduğum sessizliğin modellenememesi sorunu nedeniyle bu da çok zor bir uğraş. Sessizliğin derinliğine dair yıllar önce bir yazı yazmıştım, merak edenler buradan ulaşabilir. Söylenmeyenler dünyasında yatar asıl insani zenginlik, bütün sürprizler, icatlar, devrimler oradan alır mayasını. Söylenenler ise ya geçmişi anlatır ki insan hep yanlış hatırlar maziyi, ya şimdiyi anlatır ki şimdinin bilincini ıskalarız çoğu zaman, ya da gelecekten bahseder ki kimse bilemez geleceği. Söylenenler lafta kalır. Bilgi tanımlama ve sunma tekniği açısından sessizliğin sembolizmi ortaya konana dek kişisel dijital ikiz, gerçekleşmesi çok çok zor bir hayaldir diyorum.
Üstelik, ünlü düşünür René Girard'ın mimetik teorisine göre ikiz uğursuzluk kabul ediliyor. Bunu da akılda tutmakta fayda var.
Yazılım mühendisleri ikiye ayrılır: Gece yarısı kabanla sistem odası terminali başında hata düzeltmiş olanlar ve diğerleri...
O zamanlar VPN ile bağlanıp çalışmak yoktu. İş yerine gidilirdi. Kar yağınca hemen paydos verilmezdi, servisler gelemezdi, dolmuşa binilirdi. Trafik tıkanırsa, inip karda Levent'e yürünürdü.
Gençtik, 2-3 yıl tecrübeli belki.
Azdık, kişi başına düşen sorumluluk çoktu: Mesela ben ithalat, ihracat, görünmeyen kalemler ve kurumsal kredilerden sorumluydum.
Bekardık, cevvaldik... Dolayısıyla, bayram, tatil, yıl başı nöbetlerinin müdavimiydik.
Geç vakitte, tam eğlenirken veya uyurken, aklımızdaki son şey işken, birden telefon çalardı:
"Yıl sonu batch programı hata aldı..." derdi operatör.
Taksi tutup Maslak'a, ofise giderdik. Sistem odasına geçip, doğrudan canlı ortam terminalini açar, problemli programı okumaya başlardık. Kaban üzerimizde... Çünkü sistem odası ayazı diye bir gerçek vardır. Donmadan, felç olmadan hatayı bulmak ve düzeltmek gerekir.
Muhasebe departmanı bir defter-i kebirin borç/alacak karakterini ters işaretlemiş, bu nedenle bakiye hatası alınmış filan olurdu. Sabah 3'te telefonla onay alıp canlı ortamda veri düzeltip programı çalıştırır, bitmesini beklerdik. Kabanla...
Bugünlerde her şey daha başka. Biraz fazla yumuşadı her şey. Editörden çok PowerPoint kullanır oldu herkes. Kimse bilgisayar programı veya yazılım demiyor artık, "kod" deniyor hep. Kodlama kursu filan alınıyor. Herkes bir başkasının programını çağırıyor, kimse kendi yazılımını geliştirmiyor.
Kafka mezarından kalkıp "Kafka" diye web araması yapsa dumur olurdu.
Çok iyi bir "cache" paketi, çok hızlı bir "queue" paketi, çok veriyi dar alanda tutup mikrosaniyeler mertebesinde sorgulatan veritabanları bulmak istiyor herkes. Javascript bilmek meslek oldu. Apache projelerinin en uygun kompozisyonu ile dağları devirmeye gayret edenler pek çok. Bulutu ulvi bir kurtuluş platformu olarak kabul edenler de... Büyük yazılım/donanım firmalarının ürün lansmanlarını görüp heyecanlara gark oluyor insanlar.
Yapan az, kullanmayı isteyen çok.
Uygun kombinasyonu yakalayan yaptığını düşünüyor. Sorun yaşarsa da "ticket açıyor". Ve bekliyor.
Bu günlerde her şey ve herkes sanki fazla kırılgan.
Tanıyanlar biliyor, saatleri severim. Tasarıma, mühendisliğe, tekniğe ve estetiğe meraklı herkesin saatçiliğe, daha genel anlamda, horolojiye biraz vakit ayırmasını tavsiye ederim. Çok zevkli bir dünya. Zaman denen, tanımlaması zor kavramı bir mekanik düzen ile tasvir edebilmek, zamanı göstermek üzere neredeyse evrensel bir şema yaratabilmek; bu sağlam ve etkin teknik üzerine estetik açıdan da çok zengin katmanlara sahip bir görsel arayüz yaratmak büyüleyici. Üst seviye saatçilik kulvarında yer alan Heuer, şimdiki adıyla TAG Heuer sevdiğim bir üretici. Mottoları "Don't crack under pressure". Bu sloganı işleyen etkileyici bir videoya buradan ulaşabilirsiniz.
"Baskı altında ezilme" diyor TAG Heuer.
Peki, bu kırılganlıklar dünyasında baskıya karşı nasıl dirençli olacağız?
Direkt lise fiziğini baz alırsak, birkaç seçenek beliriyor: (a) sert olmak, (b) esnek olmak, (c) iç basınç ile dış basıncı dengeleyebilmek.
Son seçenek bence en geçerli olan çünkü sertliğin ve esnekliğin bir sınırı var genelde. O sınırıların ötesinde yine zaafiyet oluşur. Oysa dengeleyebilme becerisi teoride sınırsızdır. Çünkü insan, sınırlarını aşabilen bir varlıktır.
Profesyonel geçmişimde hep sistemler kurdum. Başta bilgisayar sistemleri, sonrasında süreçler, organizasyon yapıları... Fakat, ben aslen sisteme değil insanlara inanıyorum. Bazı dönemlerde, o dönemin dinamikleri gereği bazı sistemler gayet güzel iş görür ve bu durum, o sistemi kuran ve işleten insanlarla ilgilidir. İnsanları bilmek, anlamak ve onlara inanmak lazım. Mutfakta şef, orduda general, gemide kaptan ve bunların önderliğindeki herkes.
İş hayatının meşhur konularından "aile şirketi olmak/kurumsallaşmak", "patronun yönetmesi/profesyonel yönetici atama" değerlendirmelerinde de insan doğasına odaklanmak lazım belki de. Hayatı inşa eden karaktere karşı düzeni sürdüren karakter. Bu konularda hem tecrübesi, hem akademik geçmişi üst seviyede olan bir arkadaşım "lezzeti veren son dokunuşu kim yapıyor, ona bakmalı" demişti. O dokunuşu bir insan yapıyor, bir sistem değil. O halde, insani kurguların yükseldiği, insani karakterin parmak izini belirgin biçimde vurguladığı bir döneme giriyor olabiliriz.
Bireysel etkiden bağımsız olmaya gayret eden bir sistem kurup, bu sistem dahilinde anketlerle "bağlılık" ölçmek veya abartılı "aileyiz" propagandaları yapmak yerine gerçek aile şirketleriyle devam etmek iyi bir tercih olabilir.
Her şeyin ötesinde, herhangi bir sosyal sistemin bütün ayrıntılarına dair direktiflerin netleştirilmesi neredeyse imkansızdır. O sistemde iş gören insanların karakteri yapıya mutlaka sirayet eder. Her insan, kendince bir tarzda, kendince arzuları ön planda tutarak yer alır sistemde. Konuya böyle bakınca, sistemin insandan ibaret olduğu daha da belirginleşiyor.
Kırılganlıktan uzak, umutlu, zihni ve gönlü zengin insanlarla akar hayat. Meraklı, kendiliğinden mutlu ve meşgul... Bir çocuk gibi.
İşte böyle bir karakter baskı altında ezilmez. İç basıncıyla dış basıncı daima dengeler.
Aslen, sibernetik (cybernetics) denen kavram, çevreden aldığı sinyallerle iç yapısını düzenleyip yön tayinini devinimsel olarak becerebilen oluşumları tarif eder. Biz insanlar, bu meziyete doğal olarak sahibiz. Kendimizi bir sistem elemanı yerine muktedir ve özerk bir şahsiyet olarak ortaya koyduğumuz her an yönümüzü bilir, ferahlığı yakalarız.
Medeniyetin ibresi, neredeyse her alanda, zıt uçlar arasında periyodik olarak salınıp duruyor. Bunu görmek için parspektifi genişletmek yeterli. İbre nerede olursa olsun, bir yetişkin olarak hayatta yer almak, karar vermek ve eyleme geçmek özgürleştirici bir tutum.
Özgür bir varoluşun belirtisi ise kendine has bilgi üretebilmek, bence.
Kabanı giyip, terminalin başında işini yapmak.
Isıyı içerden üretmek.
Hareket etmek.
Sana ait lezzeti vermek.
Ve tat almak.
"And I gave my heart to know wisdom, and to know madness and folly: I perceived that this also is vexation of spirit. For in much wisdom is much grief: and he that increaseth knowledge increaseth sorrow." Ecclesiastes 1:17-18
Nowadays, any topic is touching to artificial intelligence (AI). It is a living, breathing phenomenon; vulgarized vastly. Creators of the connectionist AI have been the recipients of ACM Turing Award and Nobel Prize. Science, technology, art, philosophy, law and business as usual discuss AI in different aspect every day. Governments are after regulating and fortifying their digital sovereignty by gaining AI dominance; companies are trying to find innovative ways of devising AI for more profit; average Joe wants to entertain himself and delegate as much of his chores as possible to AI; marketers call every machine, which is able to run software, "AI augmented" such that AI modem, AI TV, AI phone, AI vacuum cleaner... In short, world embraced AI, AI seduced the world, no major resistance exists.
Today, I am not going to discuss AI but human.
Nietzsche said "God is dead" and obliged humanity to build a novel value system because any given ethics would not be functional anymore. It was the dawn of "Übermensch" who was a selfmade being and was able to exist in the nihilist world. In this vague world, human dropped atom bombs on the land and in the ocean; vaporized hundreds of thousands of human beings in seconds. Heidegger watched those bombs, learned his lesson and positioned "authentic dasein" to be careful about technology. It was a big caution pointing the dangers of misuse of technology in the history. Virilio beautifully put forth his ideas on increasing speed and information volume we need to handle as a result of advancements in technology. Andy Clark and David Chalmers described us as natural born cyborgs whose traits are expanded by using many forms of technology in our daily lives, especially the technologies that support our cognitive abilities result in a situation named "extended mind".
Big minds have been thinking about technology and it effects in human nature, for centuries. It is obvious that it has been and will be a dialectic process: We will see the outcomes, in a very dynamic and unforseen way. There won't be any predefined recipe of technological way forward. Human evolution is in its fastest form.
In a world of pervasive AI use, how will we identify natural human touch? Up to this day, our systems were trying to distinguish human beings from software agents by using Turing test dialects. It was already an interesting picture, in which human beings struggle to prove themselves to some software systems for not being a software agent... Remember the web sites with "I am not a robot" check box or CAPTCHA protocols. Today, we are in a position where humans need to understand whether or not their peers are authentic humans. Perhaps, we need to find a test method for this.
Thinking about that challenge, I tried to define some attributes of human beings:
Besides, I noticed that humans frequently use GenAI for doing their non-humane tasks such as writing a 200+ pages of thesis, controlling interdependencies of different sources of information, editing a video compsed of millions of frames, writing in a foreign language at which they are not very good etc.
I usually think critically but in general, I am an optimistic person. Therefore, I am not expecting any AI caused apocalypse but to me, number of cognitively deskilled persons will increase because of "AI abuse" which is not a surprize, even today.
Think.