Anthropic’in kurucu ortağı Jack Clark’ın yapay zekâya dair bu sözü fütüristik bir yaklaşımdan öte günümüzü çok yakından ilgilendiren bir durum tespiti olarak gündemimize girdi. Bu ve benzeri tartışmalar devamlı konuşuluyor. İşte bu tartışma tam da çağımızın kırılma noktasına keskin bir mızrak gibi saplanıyor aslında. Yapay zekâ artık yalnızca insanların kullandığı bir araç mı, yoksa kendi kendini büyüten yeni bir sisteme mi dönüşüyor?
Jack Clark’ın yaptığı son açıklamalar, teknoloji dünyasında uzun süredir dile getirile bir korkuyu ilk kez bu kadar açık biçimde gündeme taşıdı. “Gaz pedalı var ama fren pedalı yok” cümlesi, belki de son yıllarda yapay zekâ için kurulmuş en çarpıcı ve gerçekçi tanımlardan biri oldu. Artık mesele ChatGPT’ye şiir yazdırmak ya da Claude ile birkaç satır kod üretmek değil. Mesele, yapay zekânın kendi geleceğini inşâ etmeye başlaması…
Bir dönem teknoloji şirketleri geleceği anlatırken daha hızlı, daha akıllı, daha verimli gibi sözlerle cümleye başlıyordu. Şimdi ise aynı şirketlerin yöneticileri ilk kez başka bir kelimeyi yüksek sesle telaffuz ediyor. “Durmak...”
GAZ PEDALI VAR, FREN YOK… AI YARIŞINDA DÜNYA NEREYE GİDİYOR?
Anthropic’in kurucu ortaklarından JackClark’ıngeçtiğimiz günlerde BBC’ye yaptığı açıklamalar, yalnızca teknoloji dünyasında değil, ekonomi, siyaset ve çalışma hayatı açısından da yeni bir dönemin habercisi niteliğinde. Clark’ın, “şu anda yapay zekâ sektörünün gaz pedalı var ama fren pedalı yok” sözü, en kritik cümle olarak hakikat penceresini sonuna kadar araladı. Bunu sadece bir teknoloji tartışması olarak görmemek gerekiyor. Bu durum, insanlığın kendi ürettiği sistem üzerindeki hâkimiyetini kaybetme korkusunun da ilk ciddi dışavurumu olarak kayıtlara geçti.
Bugün birçok insan hâlâ yapay zekâyı soru sorulan bir sohbet robotu olarak görüyor. Bizlerin arama motorlarında sörf yapmanızdan farklı bir durum değil. Herhangi bir arama motorunda bilgiye parçalı bir şekilde ulaşırken, yapay zekâ marifetiyle bütün bir porsiyonla sistematik bir metotla doyuma ulaşabiliyoruz. Oysa Silikon Vadisi’nde tartışılan konu çok farklı… Konuyla ilgili çalışmalar yapanların zihninde ciddi istifhamlar zuhur ediyor.“Yapay zekâ, insan müdahalesi olmadan kendi kendini geliştirebilir mi?” Şu an herkesi deli eden durum bu…
TEKNOLOJİ DÜNYASINDA YENİ EŞİK: CLAUDE KENDİ KODUNU YAZIYOR
Meseleye Anthropic cephesinden bakacak olursak; Anthropic’in yayımladığı verilere göre, şirketin yapay zekâ modeli Claude, artık şirket içindeki üretim kodlarının yüzde 80’inden fazlasını yazabiliyor. Üstelik bu oran birkaç yıl önce tek haneli seviyelerde seyrediyordu. Bu veri dışarıdan bakınca yalnızca teknik bir başarı gibi görünebilir. Fakat işin uzmanları için mesele çok daha büyük bir durumun habercisi… Çünkü bir yapay zekâ sistemi yalnızca kod yazmıyor. Yeni yapay zekâ sistemlerinin geliştirilmesine de katkı sağlıyor. Teknoloji dünyasında buna “recursive self-improvement” yani; “özyinelemeli kendini geliştirme” deniyor. Başka bir ifadeyle sistem, kendi sonraki versiyonunu oluşturmaya başlıyor. İşte Clark’ın asıl korkusu burada başlıyor. Aslında hepimizin konuştuğu kolektif korku da bundan ibaretti.
TEKNOLOJİ TARİHİNDE İLK DEFA ROLLER DEĞİŞİYOR
Roller ve sahneler teknoloji tarihi açısından ilk defa değişime uğramışa benziyor. Sanayi devrimlerinde makineler insan kas gücünü devraldı.Yapay zekâ ise ilk kez insanın zihinsel üretim alanına dâhil oluyor. Bu sebeple bugünkü dönüşüm, önceki bütün teknolojik sıçramalardan daha sarsıcı bir hâl alabilir. Farkındaysanız yapay zekâ şirketleri artık “AI her şeyi çözecek” söyleminden kademeli biçimde uzaklaşıyor. Bunun yerine kontrollü büyüme, düzenleme ve denetim çağrıları yapılıyor.
Ama burada ciddi bir çelişki de ortaya çıkıyor. Anthropic bir yandan “fren sistemi” çağrısı yaparken, diğer yandan yapay zekâ yarışını durdurmuş değil. Gerçi hiçbir AI şirketi bundan geri durmuyor. Zira ortada ciddi bir pazar ve rekabet var. OpenAI, Google, Meta ve Çinli teknoloji devleriyle birlikte küresel rekabetin tam merkezinde bulunuyor. Hiç kimse yarıştan çekilmek istemiyor. Ama uyarılarını ve çekincelerini de dillendirmekten geri durmuyor. Soğuk Savaş döneminde nükleer silah yarışı nasıl “geri kalanın kaybettiği” bir denklem oluşturduysa, bugün de benzer bir psikoloji yapay zekâ alanında yaşanıyor. ABD geri kalmak istemezken, Çin yakaladığı ivmeden ödün vermek istemiyor. Avrupa regülasyon yetiştirmeye çalışıyor.Şirketler ise aynı anda hem hızlanıyor, hem korkuyor. Ciddi bir paradoksun yamacından hep birlikte gelişen olayları seyrediyoruz, o kadar…
ASIL TEHLİKE ROBOTLAR DEĞİL, EKONOMİK SARSINTI
Bilinçaltımız yıllarca Hollywood’un fantastik bilim kurgularıyla örüldü.Hollywood yıllarca insanlığı robot istilasıyla korkuttu. İnsandan daha zeki, insandan daha güçlü ve dünyaya hükmeden dijital sistemler bütünüyle zihinlerimiz işlendi. Bunlar işin başka boyutu. Gerçekte ise ilk büyük kriz çok daha sessiz gelecek gibi duruyor. O da iş gücü dönüşümü…
Bugün büyük teknoloji şirketlerinde yaşanan işten çıkarmaların önemli kısmı artık doğrudan yapay zekâ verimliliğiyle ilişkilendiriliyor. İçeriden edindiğimiz bilgiler, özellikle yazılım sektöründe AI destekli üretkenliğin dramatik biçimde arttığı yönünde. Örneğin, Anthropic mühendislerinin artık 2024’e göre yaklaşık 8 kat daha fazla kod ürettiği ifade ediliyor. Tabii bu durum yalnızca mühendisleri ilgilendirmiyor.Muhasebe, hukuk, müşteri hizmetleri, veri analizi, medya üretimi, reklamcılık, çeviri ve hatta araştırmacı gazetecilik bile dönüşüm baskısı altında. Yapay zekâ çağında insanların gereksizleşmesi ihtimali en büyük risk faktörü olarak önümüzde duruyor.
Clark’ın “üretken insanlar avantajlı olacak” sözü bu yüzden önem arz ediyor. Çünkü AI çağında bilgiye ulaşmak değil, o bilgiyi anlamlandırmak değer kazanacak. Yani anlamı anlamlı ve sistematik bir yorumla sunmak sizi bir adım öne çıkaracak.
Muhtemelen geleceğin en kıymetli insan profili; merak eden, bağlantı kurabilen, farklı alanları ve disiplinleri bir araya getirebilen bireyler/ekipler olacak. Zira yapay zekâ veri üretebiliyor. Ama hâlâ anlam üretmekte insan kadar güçlü bir yapıya sahip değil. Eskiden de dediğimiz gibi; en azından şimdilik…
Ama yine de insan bütün faktörlerde yine “başat aktör” olacak fakat “gizli özne” olarak kalacak. Bunu da bir yerlere not edelim ki, yarın öbür gün insanoğlunun bir hatası, teknolojiye mâl edilmesin…
DEVLETLER HAZIR MI?
Teknoloji, siyasetten daha hızlı ilerliyor. Siyasetin hâlâ eski kodlarla yapılıyor oluşu da buna bir etken. Asıl problem de işte burada başlıyor. ABD Başkanı Donald Trump’ın son yapay zekâ kararnamesi, şirketler üzerindeki zorunlu güvenlik testlerini sınırlı tutması sebebiyle tartışmalara yol açtı. Bir tarafta “çok fazla düzenleme inovasyonu öldürür” diyenler,
diğer tarafta “kontrolsüz büyüme insanlık için risk oluşturabilir” görüşünü savunanlar var.
Avrupa Birliği’nin “AI Act” düzenlemeleri bu yüzden dikkat çekiyor. Avrupa, yapay zekâyı yalnızca ekonomik mesele olarak değil, demokrasi, insan hakları ve toplumsal güvenlik meselesi olarak ele almaya çalışıyor.Fakat dünyada henüz küresel ölçekte bağlayıcı bir yapay zekâ yönetim sistemi yok. Önümüzdeki en önemli gerçeklerden biri de bu.
Nükleer enerji için uluslararası kurumlar var. Kimyasal silahlar için anlaşmalar var.Ama insanlık tarihinin belki de en güçlü teknolojisi için ortak bir denetim sistemi hâlâ oluşmuş değil. Ciddi bir serbestiyetsöz konusu. Kuralsızlığın kural olduğu bir ortama doğru bir gidişattan bahsediyoruz desek abartmış olmayız.
İNSANLIK KENDİ GELİŞTİRDİĞİ TEKNOLOJİNİN KARŞIT DEVRİMİNE HAZIR MI?
Peki… Belki de şu anda en büyük sorumuz şu: Yapay zekâ gerçekten kontrolden çıkabilir mi?Bugün için buna net olarak “evet” demek bilimsel olarak pek doğru bir yaklaşım olmaz.Ama diğer yandan “hayır” demek de hiç kolay değil.Üstelik mesele yalnızca teknik kontrolden ibaret değil. Düşünsenize; bir toplumun düşünme biçimi değişirse, insanlar üretmek yerine yalnızca yönlendirme yaparsa veya çocuklar problem çözmek yerine cevabı hazır almaya alışırsa… Ne olur? O zaman kontrol kaybı yalnızca makinelerde değil, insan zihninde de başlayabilir.
Zannımca önümüzdeki yılların en büyük tartışması şu olacak: “İnsanlar yapay zekâyı mı kullanıyor, yoksa yapay zekâ insan davranışlarını mı şekillendiriyor?”
Bugün hâlâ direksiyonda insan oturuyor gibi görünse de teknoloji dünyasındaki birçok yönetici ilk kez dikiz aynasına endişeyle bakmaya başladı. Dikiz aynasına devamlı surette bakanların sayısı arttıkça zihinlerde şizofrenik istifhamlar oluşmaya başlayabilir.
Teknoloji ile devrimler yapıp çığırlar açan insanoğlu, kendi geliştirdiği sistemlerle teknolojinin karşıt bir devrimiyle karşı karşıya kalabilir mi? Bunu biraz düşünelim. Düşünelim ve biraz canımız sıkılsın. Zira insan dediğimiz varlık, canı sıkılmadan üretken bir varlık ve birey olamaz.