Tüm hayatımızın bilgisayarlaşmasıyla insanlığı tehdit eden nedir?

2024 Yazar: Seth Attwood | [email protected]. Son düzenleme: 2023-12-16 16:18

Akıllı telefonlar, robotlar ve bilgisayarlar hayatımızı kolaylaştırıyor ama belki bunda bir şey kaybediyoruz? Muhabir, Amerikalı yazar Nicholas Carr ile aşırı otomasyonun tehlikeleri ve hatta tehditleri hakkında konuştu.

Her şeyin ve herkesin otomasyonunun yaşam kalitemizi iyileştirdiğine yaygın olarak inanılıyor. Bilgisayarlar, en yüksek performansı elde etmemize yardımcı olur. Yazılım uygulamaları görevleri daha hızlı ve kolay hale getirir. Robotlar sıkıcı ve zor işleri üstlenirler. Silikon Vadisi'nden gelen sürekli yenilik akışı, insanların yeni teknolojilerin hayatı daha iyi hale getirdiğine olan inancını pekiştiriyor.

Ancak, başka bir görüş var. Yazar Nicholas Carr, modern dijital dünyanın varsayımlarını tarafsız bir analize tabi tutuyor. 2008'de Atlantic'te yayınlanan "Google Bizi Aptallaştırıyor mu?" adlı makalesi, 2010'da en çok satan kitabı The Shallows gibi hâlâ tartışmalıdır.

Teknolojinin dünyamızı kurtaracağı teorisinin savunucuları, Carr'ı en güçlü rakiplerinden biri olarak görüyor. Ve teknolojik ilerlemenin insanlık üzerindeki sonuçlarına karşı temkinli olanlar, onun dengeli tartışması için ona saygı duyuyorlar.

Şimdi Carr yeni bir soruyla ilgileniyor: Yavaş yavaş dünyada bizim için zor görevler olmayacağından korkmalı mıyız? Yeni teknolojiler sayesinde hayatlarımız çok mu verimli hale gelecek?

Yazarla bir süre önce yeni kitabı The Glass Cage: Automation and Us ve onu yazmaya iten şey hakkında konuşmak için buluştum.

1. Yeni teknolojiler hakkındaki ana efsaneyi çürütmek

Tom Chatfield:Eğer doğru anladıysam, "Cam Kafes" kitabında teknolojik ilerleme sayesinde hayatımızın basitleşmesinin mutlaka olumlu bir fenomen olduğu efsanesini çürütmeye çalışıyorsunuz.

Nicholas Carr:Hem kişisel hem de kurumsal düzeyde, verimlilik ve konforun varsayılan olarak iyi olduğunu ve bunları en üst düzeye çıkarmanın kesinlikle değerli bir hedef olduğunu düşünmeye alışkınız. Bana öyle geliyor ki, teknolojiye tüm biçimleriyle, özellikle de bilgisayar otomasyonu biçimindeki bu yaklaşım oldukça naif. Bu aynı zamanda modern dünyadaki kendi arzularımız ve gerçek hayatımız için de geçerlidir.

Bilgisayarlar hiç insanların yerini alacak mı?

T. Ç.:Yine de, teknolojik ilerlemenin taraftarlarının çoğu, yaptığımız en büyük hataların verimlilik ve mantığın ihmalinden kaynaklandığı ve aslında bizim için neyin iyi olduğunu bilmediğimiz faydacı bakış açısına bağlı kalıyor. Bu nedenle, onların bakış açısından, teknolojik ilerlemenin görevi, insan düşüncesinin eksikliklerini belirlemek ve ardından bu eksiklikleri telafi edecek sistemler yaratmaktır. Bu görüş yanlış mı?

N. K.: Bir yandan, bilgisayar teknolojisinin ve otomatik sistemlerin geliştirilmesindeki birçok yeniliğin, insanların bilgisayarlara kıyasla çok kusurlu olduğu şeklindeki yaygın iddiayla hiçbir ilgisi yoktur. Evet, bir bilgisayar belirli işlemleri süresiz olarak tutarlı kalitede gerçekleştirmek üzere programlanabilir. Ve bir insanın böyle bir şeye muktedir olmadığı doğrudur.

Ancak bazıları daha da ileri gidiyor ve insanların çok kusurlu olduğunu, rollerinin mümkün olduğunca sınırlandırılması gerektiğini ve tüm temel görevlerden bilgisayarların sorumlu olması gerektiğini savunuyor. Bu sadece insan eksikliklerini telafi etmeye çalışmakla ilgili değildir - fikir, insan faktörünü tamamen ortadan kaldırmaktır, bunun sonucunda hayatımızın çok daha iyi olacağı ileri sürülmektedir.

T. Ç.: Görünüşe göre bu en iyi fikir değil. Optimum bir otomasyon seviyesi var mı?

N. K.: Bence soru şu veya bu karmaşık görevi otomatikleştirmemiz gerekip gerekmediği değil. Soru, otomasyonu nasıl kullanacağımız, insan bilgi ve becerilerini desteklemek, insan düşünce ve davranışlarındaki kusurları gidermek ve ayrıca insanları yeni zirvelere ulaşmak için kendi deneyimlerinden en iyi şekilde yararlanmaya teşvik etmek için bilgisayarları tam olarak nasıl kullanacağımızdır.

Bilgisayar monitörü izleyicilerine dönüşüyoruz

Yazılıma aşırı güvenmek, bizi bilgisayar monitörü izleyicilerine ve süreç akışı operatörlerine dönüştürebilir. Bilgisayarlar çok önemli bir rol oynayabilir çünkü bizler sadece insanız - ön yargıların kurbanı olabiliriz veya önemli bilgileri kaçırabiliriz. Ancak tehlike şu ki, tüm işlevlerimizi bilgisayarlara devretmenin çok kolay olması bence yanlış bir karar olur.

2. Gerçek hayatı bir video oyunu senaryosuna yaklaştırmanız mı gerekiyor?

T. Ç.: Kitabınızda, insan-makine etkileşiminin bir örneği olarak video oyunlarını alıntıladığınızı belirtmekten memnun oldum, burada amaç zorluklardan kaçınmak değil, zorlukların üstesinden gelmek. En popüler oyunlar, oyuncuya tatmin duygusu veren bir tür çalışmadır. Sadece çoğumuzun her gün yapmak zorunda olduğu işin çok daha az beceri gerektirdiğinden ve bize çok daha az zevk verdiğinden şikayet edebiliriz.

Video oyunları, oyuncuyu ekstra çaba sarf etmeye ve beyni mümkün olduğunca kullanmaya teşvik eder

N. K.: Video oyunları, konseptlerinin genel olarak kabul edilen yazılım oluşturma ilkelerine aykırı olması bakımından ilginçtir. Bilgisayar oyunlarının amacı kesinlikle kullanıcıyı rahatsızlıktan kurtarmak değildir. Aksine, oyuncuyu ekstra çaba sarf etmeye ve mümkün olduğunca beyni kullanmaya teşvik ederler. Video oyunlarından zevk alıyoruz çünkü sürekli artan zorluklarla bize meydan okuyorlar. Kendimizi sürekli olarak zor durumlarda buluruz - ama umutsuzluğa neden olan durumlarda değil. Her yeni seviyenin üstesinden gelmek sadece becerilerimizi geliştirir.

Bu süreç, bir kişinin gerçek hayatta nasıl hayat tecrübesi kazandığına çok benzer. Bildiğimiz gibi, yeteneklerin gelişmesi için kişinin tüm bilgi ve becerilerini kullanarak tekrar tekrar ciddi engellerle karşılaşması ve bunları tekrar tekrar aşması gerekir. Yavaş yavaş, bir kişi yeni bir seviyeye ulaşır, bundan sonra engellerin karmaşıklığı artar.

Bence insanlar video oyunlarını yeni deneyimler kazanmaktan ve engelleri aşmaktan tatmin olmalarıyla aynı sebepten seviyorlar. Yeni, daha da karmaşık zorlukların üstesinden gelmek için gerekli olan yeni bilginin edinildiği süreçte zor bir görevin çözümü, bir kişiye büyük zevk verir.

Bilgisayara tamamen boyun eğmek, bizi, kendini gerçekleştirme için çok az yer olacak bir hayata götürecektir

Kitapta dile getirdiğim ana endişelerden biri, ilerlemeye karşı tutumumuzun, zor problemleri mümkün olduğunca çözmekten kaçınma arzusuyla ilişkili olmasıdır. Bana öyle geliyor ki bu bakış açısı, yaşam memnuniyeti ve kendini gerçekleştirme kavramıyla çelişiyor.

3. Bilgisayarlar insanlara olan ihtiyacı ortadan kaldıracak mı?

T. Ç.: Video oyunlarının aksine, gerçek dünyada sıkı çalışma mutlaka ödüllendirilmez. Gerçek dünya adaletsiz ve dengesizdir. Belki de buradaki en rahatsız edici eğilim, bireyin çıkarlarının (psikolojik, kişisel ve hatta hayatta kalma açısından) şirket ve hükümetin çıkarcılık kavramlarıyla giderek artan bir şekilde uyuşmamasıdır. Bilgisayarların sonunda insanların yerini alacağından korkuyor musunuz?

Birçok oyunu geçmek zordur ve oyunculardan alışılmadık beceriler ve yaratıcılık gerektirir. Öyleyse teknolojinin geri kalanı neden sadece hayatımızı kolaylaştırsın?

N. K.: Kitap için malzeme toplarken, bir askeri strateji uzmanı tarafından yazılmış bir makaleden (metinde alıntı yaptığım alıntılardan) çok korktum. Ona göre, savaş alanında bilgisayar teknolojilerinin kullanımının artan ölçeği göz önüne alındığında, çok yakında askeri işlerde bir kişiye yer kalmayabilir. Karar verme hızı o kadar arttı ki insanlar bilgisayarlara ayak uyduramıyor. Kaçınılmaz olarak tam otomatik savaşa doğru ilerliyoruz: insansız hava araçları hedeflere ne zaman füze ateşleyeceklerine kendileri karar verecek ve karadaki robotik askerler ne zaman ateş edeceklerine kendileri karar verecek.

Bence bu durum sadece askeri konularda değil, daha birçok alanda - örneğin finans dünyasında - gözlemleniyor. Örneğin, insanlar finansal enstrümanlarla ticaret yaparken bilgisayarlara ayak uyduramazlar.

Bizi neler bekliyor? Kendi eylemlerimizi eleştirel bir şekilde değerlendirmek için bizi bilgisayarlardan ayıran yeteneği kaybetmekle kalmayıp, belki de asıl şeyin karar verme hızı olduğuna inanarak bu tür sistemleri düşüncesizce uygulayacağız. Ve sonra, yanıldığımıza ikna olursak, geri dönüşün olmadığını anlarız. Çoğu zaman, bir kişiyi başlangıçta bilgisayar teknolojisi üzerine kurulu bir sisteme entegre etmenin imkansız olduğu ortaya çıkıyor.

T. Ç.: Ben de kitabınızda otomatik savaşla ilgili bir pasaj okuduğumda dehşete düştüm. Bizi tamamen otonom muharebe sistemlerine götürecek sürecin durdurulamayacağı hissine kapıldım. Korkumun bir kısmı, neredeyse trilyonlarca doları yok eden 2008 mali krizinin anılarından geliyor. En azından şimdi insanlar mali durumlarından daha sorumlu. Ama bu askeri alanda olursa dolarlar değil, insan hayatı yok olur.

İnsansız bir gelecek mi?

N. K.: Günümüzde sadece yeni teknolojilerin, özellikle yazılım teknolojilerinin çok hızlı bir şekilde çoğaltılması ve dağıtılması değildir. Mesele şu ki, tüm bu süreçler rekabetçi bir ortamda gerçekleşiyor. İster bir silahlanma yarışından ister ticari rekabetten bahsediyor olalım, rakiplerden biri bir teknoloji pahasına kısa vadeli bir avantaj elde eder etmez, bu teknoloji mümkün olan her yerde hemen devreye girer - çünkü kimse bir noktada olmak istemez. dezavantaj.

Bence bu durumda aslında hayvan olduğumuz gerçeğini gözden kaçırmak çok kolay. İnsanlar, yaşayabilmek ve hayatta kalabilmek adına binlerce yıldır evrimsel bir yoldan geçmişlerdir. İnsanlığın rolü, ayrıca memnuniyet ve kendini gerçekleştirme duygularımız, her zamanki hızımızı belirleyen bir dünyada yaşama deneyimimizle yakından ilgilidir.

Bu nedenle, tüm fiziksel avantajları ve dezavantajları ile bir insanı hızlı ve doğru bir bilgisayara karşı koyduğumuzda, tüm hayatımızı bilgisayarlara bırakma arzusu vardır. Ancak, bilgisayara tamamen boyun eğmenin bizi, kendimizi gerçekleştirmeye çok az yer kalacak bir hayata götüreceğini unutuyoruz.

4. Dünyayı nasıl otomatikleştiririz?

T. Ç.: Yeni teknolojileri eleştirmemiz gerektiğine inanıyorum, ancak insanların gereksiz zorlukları ve teknoloji karşıtı "özgünlüğü" bir fetiş haline getirmesinden endişe duyuyorum. Ağır fiziksel emeği öven ve yaptığımız her şeyin zanaatkar ve özgün olması gerektiğini öne süren modern bir düşünce okulu var. Kanımca, böyle bir konum züppelik kokuyor ve teknolojik ilerlemenin demokratikleşmesinin beraberinde getirdiği çok sayıda olumlu başarıyı hesaba katmıyor.

N. K.: Sana tamamen katılıyorum. Bir röportajda, ilerlemeye karşı temkinli tavrımın, örneğin et işleme tesislerinde zorlu koşullarda çalışan insanlara nasıl yardımcı olacağı soruldu. İnsanların çalışma koşullarının iyileştirilmesi gereken yerlerde üretimin otomasyonu için elbette her zaman bir yer olacağını söyledim. Sadece akıllıca yenilik yapabilir veya düşüncesizce yapabilirsiniz; insan deneyiminin değerini ve kendini gerçekleştirmenin önemini hesaba katmanın bir yolunu bulabiliriz ya da bilgisayarların yeteneklerini övebiliriz. Doğru seçimi yapmak kolay değil. Bu görevi yalnızca siyah beyaz olarak algılarsak - ya her durumda zor, yorucu fiziksel emek için körü körüne ayağa kalkarız ya da tersine, yaşamın anlamını sibarizmde görürüz - bu amaca yardımcı olmaz.

En zor ve olağanüstü hassasiyet gerektiren işler en iyi şekilde makinelere bırakılır

İnsanlar sürekli olarak araçlar yaratıyor ve kullanıyor. Çok eski zamanlardan beri, iş miktarının bir kişi ve onun emrindeki araçlar arasında bölünmesiyle işbölümü ile ilgili kararlar almak zorundayız. Ve bana öyle geliyor ki, bilgisayarların çok çeşitli görevleri yerine getirmedeki inanılmaz verimliliği, bu tür kararlar verme sürecini yalnızca karmaşıklaştırıyor.

5. Bizi neler bekliyor?

T. Ç.: Peki insanlık başarıya doğru ilerliyor mu?

N. K.: Geçen yıl vefat eden doğa tarihi tarihçisi Thomas Hughes, "teknolojik momentum" kavramını önerdi. Toplumsal yapılara ve süreçlere gömülü teknolojilerin kendi başlarına gelişmeye başladıklarına ve toplumu da beraberinde sürüklediğine inanıyordu. Yörüngemizin önceden belirlenmiş olması ve doğru yönde ilerleyip ilerlemediğimiz hakkında soru sormadan mevcut yolumuza devam etmemiz oldukça olasıdır. Gerçekten ne olacağını bilmiyorum. Yapabileceğim en fazla şey, bu gerçekten zor sorular hakkında elimden geldiğince akıl yürütmeye çalışmak.

Umuyorum ki bizler bireyler ve toplumun üyeleri olarak başımıza gelenleri belli bir düzeyde anlamayı ve belli bir merak düzeyini koruyabiliriz ve uzun vadeli çıkarlarımıza dayalı kararlar alırız. ve her zamanki kolaylık, hız, doğruluk ve verimlilik kavramlarımız temelinde değil.

Gün gelecek ve robotlar bizi tüm zorluklardan kurtaracak. İhtiyacımız var mı?

Bana öyle geliyor ki, bilgisayarların yaşam deneyimimizi zenginleştirmesini ve bizim için yeni fırsatlar yaratmasını ve bizi monitör ekranlarının pasif gözlemcileri haline getirmemesini sağlamak için çaba göstermeliyiz. Hala yeni teknolojilerden daha fazla yararlanırsak, teknoloji ve araçların insanlık tarihi boyunca yaptıklarını yapabileceklerini düşünüyorum - çevremizde daha ilginç bir dünya yaratacak ve kendimizi daha iyi hale getirmemize yardımcı olacaklar. Sonuçta her şey kendimize bağlı.