Bugün Mary Shelley’nin Frankenstein ve Robert Louis Stevenson’ın Dr. Jekyll ile Mr. Hyde’ın Tuhaf Hikayesi eserlerini Gotik korku hikayeleri olarak görüyoruz, ancak bunlar başlangıçta Sanayi Devrimi üzerine kaygılı meditasyonlardı. Bu dönem, buhar makineleri ve fabrika makineleri toplumları beklenenden daha hızlı bir şekilde dönüştürmüştü. Bugün birçok kişi benzer bir panik anında kendini buluyor. Ancak bu sefer değişimin hızı üssel.

Facebook, Harvard yurt odasındaki bir projeden 2.9 milyar kullanıcıya, sadece iki on yıl içinde dönüştü. Yapay zeka sistemleri artık makaleler yazabiliyor, görüntüler üretebiliyor ve hastalıkları teşhis edebiliyor. Şu anda yaşadığımız teknoloji devrimi (bilgisayar gücünün, küresel ağların ve öğrenme algoritmalarının bir birleşimi) dünyamızı gerçek zamanlı olarak yeniden şekillendiriyor. Ve tam da Viktorya dönemindeki atalarımız gibi, biz de bu teknolojik ilerlemenin istenmeyen sonuçlarının ne olabileceğini sorgulamaya başlıyoruz.

Propaganda Yayını

1930’larda, Goebbels ve Hitler zamanlarının en yüksek elektronik teknolojisini kullandılar. Almanya’daki hanelerin dikkatle hazırlanmış programları dinleyebilmesi için radyo setleri tasarlayıp dağıttılar.

Bugün, devlet destekli radyo yayınlarıyla uğraşmıyoruz; korkularınızı, önyargılarınızı, zayıflıklarınızı bilen ve belirli duygusal tepkileri tetiklemek üzere tasarlanmış hassas mesajlar ileten Sosyal Medya platformları ve algoritmalarla karşı karşıyayız. Ve 1930’lardan farklı olarak (propagandanın devlet kaynakları ve kontrol gerektirdiği dönem), günümüzde bilgi savaşlarını yürütmek için bir dizüstü bilgisayara ve sosyal medya dinamiklerine dair temel bir anlayışa sahip olan herkes bunu yapabilir.

Eşitsizlik Motoru

İkinci Dünya Savaşı’na neden olan işsizlik, servet yoğunlaşması, sınıf öfkesi ve gelecek kaygısı olan gençler gibi işaretler yeniden ortaya çıkıyor. Ve şimdi, 1930’larda imkansız olan yollarla servet birikimini hızlandıran bir teknolojiye sahibiz.

Dijital teknolojinin sağladığı küresel pazar, bireylerin kaynakları hızla toplamasına olanak tanıyan eşsiz fırsatlar yarattı. Amazon, her kıtada müşterilere ulaşabiliyor. Teknoloji milyarderleri, tarihteki herhangi birinden daha hızlı bir şekilde servet biriktirebiliyor. Bu arada, bu fırsatları yaratan aynı teknoloji, önceki nesillerin ekonomide bir yer edinmek için güvendiği başlangıç seviyesindeki pozisyonları ortadan kaldırıyor.

Yetenek geliştirme bayrağı devredilmiyor. Bir durgunluk ve ardından bir toparlanma yaşadık, ancak özellikle başlangıç seviyesindeki işlerin geri dönmesi olmadan. Gençler, becerilerini geliştirmek için daha az fırsat buluyor, iş gücünden düşüyor ve onlara bir gelecek vaat eden ancak bunun yerine belirsiz işler sunan bir sisteme öfkeleniyorlar.

Bu sadece robotların işleri almasıyla ilgili değil, bu bir sosyal sözleşmenin temel bir şekilde kırılmasıyla ilgili. Teknolojik işsizlik ile sofistike propaganda araçlarını birleştirdiğinizde, bir barut fıçısı elde edersiniz. Ekonomik beklentileri olmayan öfkeli gençler, şikayetlerini artırmak ve öfkelerini yönlendirmek üzere tasarlanmış algoritmalar tarafından hedef alınıyor?

Gerçek AI Tehdidi

Teknoloji her zaman kısa vadede işleri değiştirmiştir ve her zaman yeni işler bulmuşuzdur. Bu, her zaman bir ayarlama ve istikrarsızlık dönemini takip eder. Gerçek tehlike yapay zeka değil. Biyolojik mühendisliktir.

Yeni bir virüsün ortaya çıkıp küresel olarak yayıldığında ne olacağını zaten gördük. Covid, tüm dünyayı yıllarca sarstı ve tarihsel standartlara göre, bu kadar öldürücü bile değildi.

Şimdi, birinin AI ve evdeki CRISPR DNA düzenleme kiti (internet üzerinden 59 dolara kadar temin edilebiliyor) kullanarak, Covid’in bulaşıcılığını Ebola’nın öldürücülüğü ile birleştiren bir patojen tasarladığını hayal edin. Bunu yapacak teknoloji günümüzde mevcut ve her yıl daha ucuz ve erişilebilir hale geliyor.

Nükleer silah inşa etmek, büyük altyapı ve nadir malzemeler gerektirirken, biyomühendislik, ticari olarak temin edilebilen ekipmanla nispeten küçük laboratuvarlarda yapılabilir. Giriş engeli her geçen gün düşüyor. Ve ChatGPT’nin bilinçlenip bilinçlenmeyeceği konusunda endişelenirken, bir gencin garajında kazara (ya da kasıtlı olarak) bir sonraki pandemiyi yaratma olasılığını göz ardı ediyor olabiliriz.

Bu, teknolojik ilerlemenin sosyal ve kurumsal kapasitemizi aşması durumunda ne olacağını gösteriyor.

Umut İçin Nedenler

Değerlendirilmesi gereken iyi haberler var. Öncelikle, bu tehlikelerin farkında değiliz. Gazeteciler ve araştırmacılar, karşılaştığımız sorunları aktif olarak belgeleyip rapor ediyorlar. Algoritmik önyargı, servet eşitsizliği ve biyomühendislik riskleri hakkında konuşmamız, felakete doğru uyum içinde gitmediğimizin bir göstergesidir. Farkındalık, harekete geçmenin ilk adımıdır.

İkincisi, otomasyon hakkında tüm abartılara rağmen, robotların yapamayacağı şeyler var. Bir robottan bir çarşafı katlamasını veya bir vazoya çiçek yerleştirmesini istemeyi deneyin. Bu görevler, insanların bolca sahip olduğu bir tür dokunsal zeka ve uyum sağlama becerisi gerektiriyor, ancak makineler bununla büyük ölçüde zorlanıyor. Çok önceden tahmin edilen robot kıyameti, 1960'lardan beri köşede bekliyor, ancak insan işçileri hala oldukça zor bir şekilde ikame ediliyor.

Üçüncüsü, AI aslında iyi bir şekilde kullanılabilir. İklim değişikliği, tıbbi araştırmalar ve altyapı geliştirme, makine öğreniminin şu anda başarmakta zorlandığımız atılımları yapmamıza yardımcı olabileceği sorunlardır. Dünyanın bazı bölgelerinde, yeni teknoloji, gelişmekte olan ülkelerin Batı gelişimini tamamen atlamasına olanak tanıyabilir. Neden pahalı bakır telefon ağları inşa edelim ki mobil iletişime geçelim? Neden kömür santralleri inşa edelim ki güneş panelleri her yıl daha ucuz hale geliyor?

Dördüncüsü ve belki de en önemlisi, hala buradayız. İnsanlık, önceki her teknolojik devrime hayatta kaldı ve uyum sağladı. Matbaanın sosyal düzeni yok etmesi bekleniyordu. Telgraf, posta hizmetini gereksiz kılacaktı. Televizyon, radyo yıldızını öldürdü. Her seferinde, teknolojiyi kullanmayı öğrendik, kurumlarımızı uyarladık, en kötü etkileri azaltırken faydaları koruyan yeni normlar ve düzenlemeler oluşturduk.

Ortakların Trajedisi ve Komedisi

“Ortakların trajedisi” olarak adlandırılan eski bir ekonomik kavram vardır: kaynakların paylaşıldığında, insanların bunları bencilce sömürecekleri fikri. Ortak bir otlak aşırı otlatılır. Bir balıkçılık aşırı avlanır. Atmosfer, hiçbir bireyin durdurma teşviki olmadığı için kirlenir.

Ancak bazıları “ortakların komedisi” olarak adlandırılan bir durum da vardır: eşler arası devrim. Bu, insanların kendiliğinden organize olup ortak kaynakları yaratıp sürdürdüğü durumdur. Wikipedia klasik bir örnektir. Kimse ona sahip değildi. Kimse ondan kar elde etmedi. Ancak milyonlarca insan, sadece bilgiyi paylaşmak istedikleri için insanlık tarihinin en kapsamlı ansiklopedisini oluşturmak için katkıda bulundu.

Sömürüyü mümkün kılan teknoloji, aynı zamanda işbirliğini de mümkün kılabilir. Propaganda yayan aynı sosyal medya platformları, protestoları ve sosyal hareketleri organize etmek için de kullanılabilir. Serveti yoğunlaştıran algoritmalar yeniden programlanabilir veya düzenlenebilir. Seçeneklerimiz var. Gelecek kodda yazılmamış. Politika, oy sandıklarında, yönetim kurullarında ve bize verilen araçları nasıl kullanacağımız hakkında yaptığımız sayısız küçük kararlarda yazılmıştır.

Bazen kötü şeyler olumlu değişimi hızlandırır. 1970'lerdeki petrol şokları, yakıt verimliliği ve alternatif enerjiye yatırım yapılmasına yol açtı. 2008 finansal krizi, daha sıkı bankacılık düzenlemelerine yol açtı. Karşılaştığımız mevcut krizlerin (iklim değişikliği, eşitsizlik, AI riskleri) bizi on yıllar önce yapmamız gereken değişiklikleri yapmaya zorlayabileceği mümkündür. Savaşmadan, savaş sonrası sosyal yatırım ve işbirliğinin faydalarını elde edebiliriz.

Kullanıcılar Geleceği Belirler

Teknolojinin tüm tarihindeki ana tema, araçların, mucitlerinin hiç hayal etmediği şekillerde kullanılacağıdır. Telefon, bir iş aracı olarak düşünülmüştü; sosyal bir araç haline geldi. İnternet, askeri iletişim için tasarlanmıştı; kedi videolarından bilimsel işbirliğine kadar her şey için küresel bir platform haline geldi. Twitter, bir durum güncelleme hizmeti olarak amaçlanmıştı; hükümetleri devirmeye yardımcı olan bir siyasi güç haline geldi.

Container Solutions’ta, insanların teknolojiyi nasıl kullandığını izleyerek yıllar geçirdim ve bu beni her zaman şaşırtıp mutlu etti. Geliştiriciler, bir amaç için tasarlanmış araçları alıp tamamen farklı amaçlar için eğiyorlar. Paylaşılan ilgi alanları etrafında topluluklar oluşuyor. Eşler arası devrim zaten gerçekleşiyor. Henüz eşit bir şekilde dağılmadı.

Bu nedenle, size bir meydan okuma: Teknolojiyi, onların amaçladığı şekillerde kullanmaya devam edin. Diğer insanlarla bağlantı kurmaya devam edin. Organize olmaya devam edin. Sizi veri noktaları olarak gören sistemlere karşı direnmeye devam edin.

Tarihsel avantajımız var. İnsanların uyum sağladığını, yeni araçları yönetmek için kurumlar oluşturduğumuzu, faydaları korurken zararları azaltmayı sonunda başardığımızı biliyoruz. Bu hızlı olmayacak ve kolay olmayacak, ancak mümkündür.

Hızlı değişim korkutucu olabilir. Ama aynı zamanda olanaklarla dolu olabilir. Evet, teknolojinin istenmeyen sonuçları felaket olabilir, ancak aynı zamanda mucizevi de olabilir. Ve hangi yönde gideceği, teknolojinin kendisinden çok, onunla ne yapmayı seçtiğimize bağlıdır.

Jamie Dobson, kuruluşların bulut yerel çalışma biçimlerini benimsemelerine yardımcı olan Container Solutions’un kurucusudur.
Ayrıca, insanlığın elektrifikasyondan bulutlaşmaya yolculuğunu keşfeden “Bulut Yerel Tutum” ve “Vizyonerler, İsyancılar ve Makineler” adlı eserlerin yazarıdır.