İnsanlığın yönetiminde "iskin" perspektifleri

2024 Yazar: Seth Attwood | [email protected]. Son düzenleme: 2023-12-16 16:18

İnsanları kontrol etmek için yapay zekaya güvenirseniz ne olur? Mevzuatımızda kanunların %99'u birbiriyle çelişmektedir. Mantıksal olarak, gücün çökmesi ve kontrol sisteminin durması gerekir …

Şimdi o yeri düşünelim yapay zeka(bundan böyle iskin olarak anılacaktır) icat edildiğinde ve uygulandığında (eğer) hayatımıza girecektir. İç doğası hakkında tartışmamanızı öneririm. Büyük Veri ile çalışma yeteneğine sahip ve gerçek insanların davranış kalıplarını benzer şekilde kopyalayabilen çok gelişmiş bir algoritma olsun. Ama isterseniz, tartışılan şeyin sizin anladığınız gibi gerçek bir erkek olmasına izin verin.

Buradaki temel soru şudur. Bu Hammer of Thor'u aldığımızda nereye uygulayacağız? Ve prensipte, bunun yapılabileceğine dair hiçbir şüphe yoktur. Dijital öğütücüler, kendi kendine öğrenen algoritmalar da yapabiliriz, birikmiş büyük tarih - her şey orada.

Diyelim ki teknik sistemlerin yönetiminde, örneğin bireysel taşıma birimlerinde? - Peki, kamon … Neden atın üstesinden gelebileceklerini ona emanet etmek için akıllı ve karmaşık bir sistem yapsın? Bir işlemcide kova başına 10 dolar için yeterli ve ilkel bir algoritma olacak, taşıma yönetimindeki sorun sadece veri elde etmede ve etik konularda. Sonra ne? On beş saniye düşünün.

Bana göre sadece bir tane var bir iskin için asıl olan insanları yönetmektir … Daha doğrusu, insanların bir parçası olduğu süreçler. Birkaç nedenden dolayı daha azıyla takas etmenin bir anlamı yoktur. Herkes herhangi bir özel eğitim almadan insanları yönetmeye hazırdır. Örneğin, kendi çocuklarımızı yönetme konusunda herkese tamamen güveniyoruz. Ayrıca, ekiplerdeki hemen hemen herkesin en azından bir miktar yönetim deneyimi vardı. En azından "sedyeye bir kürek daha atın, biz taşıyacağız" düzeyinde. Eğer herkes bir kişi prensipte insanları yönetme yeteneğine sahiptir, o zaman bir yapay zeka bunu yapabilmelidir, aksi takdirde zihinsel olarak bozulmuş bir zekadır.

Ancak, insanları yönetmenin sonuçları ideal olmaktan uzaktır. Herhangi bir gerçek kontrol, bir dizi hata ve yanlışlıktır. Üstelik hata sayısı neredeyse yöneticinin seviyesine bağlı değildir, belli bir sabittir. Sadece yükleyicilerin ustabaşı küçük hatalar yapar ve valiye ciddi sonuçlara yol açan hatalar yapma hakkı verilir. Bunu anlıyoruz. “Yanlış yapmalıydık”, kendimiz de dahil olmak üzere çevredeki dünyanın yansımasının ana sonucudur.

Ve şimdi elimizde "bunu yapması" gereken bir yapay zeka var. Ve hemen uygulayacağız çünkü teorik olarak çözebileceği problem en önemlisidir. Ve üç sınıf eğitime sahip Jamshut da bir kamyon sürebiliyor.

Bu konuda benimle aynı fikirdeyseniz, o zaman yönetmesi amaçlanan suni derinin işlevselliğini sunmaya devam edelim. Kimin işlevlerini yerine getirmeli, kararlarıyla kimi değiştirmeli ya da en azından güçlendirmeli?

Bunların memur olacağı açıktır (hem kamu yönetiminde hem de ticarette). Yetkililer karar verir. Yetkililer tüm yeterlilik seviyelerinde kabul edilir. Yetkililer bugün önemli ve ihtiyaç duyuluyor, çünkü kararlar kendi kendine almayacak. Ama bir nokta var.

Her yöneticiye (yani her memura) pratik faaliyetlerinin gerçek içeriği açısından bakalım. Ancak motivasyonları anlamında değil - olduğu gibi motivasyonların arketipi olmamalıdır. Bir yetkili, başka bir yetkili tarafından onaylanan işlemleri onaylar veya iptal eder.

İdeal bir makinede, tüm işlemlerin koşulsuz olarak onaylanması gerekir ve daha önce yasal olarak onaylandığı için hiçbir işlem iptal edilemez. Bu sistemde önemli bir faktör, işlemlerin değerlendirilmek üzere "kara kutu"dan yetkiliye sunulmasıdır. Böyle bir işlemin neden yapılması gerektiği veya başka bir yetkili tarafından neden onaylandığı konusunda kendisine bir açıklama yapılmadı. Kontrol sistemi aşağıdaki gibi oluşturulmuştur. Yukarıda, bir dizi işlemi gerçekleştirmek için talimat şeklinde bir emir gelir.

Böyle bir sistemin ideolojik yapısının, yukarıdan alınan bir işlemin "kara kutudan" iptal edilmesi (onaylanmaması) olasılığını ima etmediğini unutmayın. Ancak pratikte böyle bir olasılık her zaman mevcuttur. Ve en önemli iki şeyi sağlayan da odur: herhangi bir yetkilinin gücü ve bu gücün sınırlandırılması.

Herhangi bir hatanın (yukarıda kaçınılmaz ve kalıcı olduğunu söylemiştik) temelindeki bürokratik kitlelerin muhalefetinde çözülebileceğini, o zaman hatanın sonuçlarının en aza indirilebileceğini açıklayayım.

Bununla birlikte, teorik bir ideal yönetim sisteminde hiçbir hata olmamalıdır, bu nedenle bir memurun rolü, doğru oldukları için onaylayamayacağı, ancak onaylayamayacağı işlemlerin resmi onayına indirgenir. Yani, buna gerek yok. Böylece soru, ilk yönetim sinyaline kadar kaynar. Eğer doğruysa, o zaman tüm alt seviyelerin bir anlamı yoktur.

Yani teorik olarak devletin konsolide bütçesinin çalışması gerekir. Kabul edildiğinde fraktal özünün tamamının ortaya çıkması demektir. Her kılcal damar, atanan kan bölümünü ve yanıt olarak - amaçlanan sonucu almalıdır. Evet en altta “ama betonu zamanında teslim edemedik ve dolayısıyla…” var ama kusura bakmayın bu en altta ve kontrol aparatı betona değmeyen birçok seviyeden oluşuyor hiç, işlemlerle çalışırlar. Orta seviyelerde "beton teslim edilmedi"nin farklı göründüğünü anlıyorum, "kozmodrom inşaatının başkan yardımcısı 100 milyon çaldı ve bu nedenle…" Burada ideal bir şemadan bahsediyorum.

İdeal cildimize geri dönelim. Sonuçta, bu görevde aynı sorunları çözmesi gerekiyor - işlemlerin onaylanması veya yasaklanması. Ve bunu yapabilir! Ancak şimdi tek başına tüm yönetim seviyelerini bir kerede değiştirebilecek. Sonuçta, bakanı değiştirirse, bakanlık düzeyinde büyük bir işlemi onaylarsa, kararının doğru olduğu kabul edilmelidir. Ve Kineshma'daki psikiyatri hastanesinin verandasını onarmak için IP Pupkin'in ödenmesine kadar büyük bir işlemin tüm diğer dağıtımının analizini içerir.

Böylece, ilkinden itibaren daha düşük seviyelerdeki işlemleri onaylamak zorunda olan tüm görevliler zinciri, aynı AI algoritması ile güvenli bir şekilde değiştirilebilir. Sorun zaten en alta kadar çözüldü. AI'mızın tüm zinciri değiştirmek için kullanılmasına bile gerek yok, AI sadece buna olan ihtiyacı iptal ediyor. Kararı doğrudur çünkü doğrudur. Ve hemen tüm fraktal için çözümler içerir.

Açıklama Gerçek dünyamızdaki herhangi bir alt yetkili, daha yüksek bir memurdan daha akıllı olabilir. Sonra patronun kararlarını sabote edecek ve sonra ona yardım edecek. Bu her zaman böyledir. Mevcut tüm yetkililer, başlangıç seviyesi hariç, eski üstlerinin yerlerini alır. Ancak bu durumda rekabet söz konusu değildir. Bir işkin tüm zincir boyunca her şeye kendisi karar verir, kendisiyle çelişemez.

Dahası. Yönetim sistemimizde herhangi bir işlemimizi iptal etme ve onlar hakkında görüşümüz ne olursa olsun kendi işlemlerini yapma yetkisini verdiğimiz mahkemeler bulunmaktadır. (Bir katili hapse atmak da kurallara bağlı bir işlemdir. Buradaki hakim, kara kutudan kendisine gelen bir işlemi onaylayan veya iptal eden bir görevlidir.) Aptalımız iyiyse, memurlardan daha iyidir, çünkü (bizim için) işlemlerin onayını veya iptalini ona emanet ettik. O halde yargıçlardan daha iyidir. Aksi takdirde, İskin'in kararlarına karşı çıkılabileceği ve insanlar tarafından iptal edilebileceği ortaya çıkıyor. Ve insanlar bunu kabul ederse, yapay zekanın insanlardan daha kötü olduğunu kabul edeceklerdir. O zaman memurları neye dayanarak değiştiriyor?

Çözüm. İskin de yargılanmayacak. Yine. Siz insanlar en iyi algoritmanızı yazdıysanız, onu o kadar iyi anladınız ki, ona kendiniz üzerinde güç verdiniz, o zaman daha iyi bir algoritma yazamazsınız, böylece birincinin kararlarını yargılar. Hem yönetici hem de yargıç olarak en iyi algoritmanızı ortaya koyacaksınız. Daha doğrusu, yargıçlar basitçe ortadan kaybolacak. Bu yapay zekaya üzerinizde tam bir güç vermeniz gerekecek.

Bu arada, kontrol için ilk verilerin ISK'ya geldiği orijinal kara kutu da dijitalleştirilebilir. Hatta dijitalleştirilmelidir. Konsolide bütçe en uygun olmalıdır. Ve o da yapıyor.

Başka bir an. Ya da belki kararlarını kontrol edecek bir kişinin üzerine bir kişi koyun ki, örneğin onun insanlık dışı olmasından dolayı oluşabilecek hatalar olmasın? - O zaman tüm yetkililer konumlarını ve güçlerini koruyacaktır. Ayrıca ISK tarafından onaylanan işlemleri iptal etme veya iptal edilen işlemleri onaylama hakları da verilecek. Ne yazık ki, gerçek görünmüyor. İskin, kararının arkasındaki gerekçenin bir çıktısını verecek. Ve bir kişi, duyguları veya çıkarları ile biçimsel mantığı çürütemez. Bu durumda bile, bir (aslında tek) bir fiilin her tezahürüne canlı bir memur bağlansa bile, ona karşı koyamayacaklardır.

Karışıklık için özür dilerim, çok fazla düşünce var ve metnin uzunluğu onarılamaz bir şekilde büyüyor.

ISK açıldığında tam bir çökme meydana gelecektir. Hayır, ilk başta onu test modunda sürdüklerini anlıyorum. Ancak bu bir saygısızlık olacak, çünkü o zaman basitleştirilmiş bir model değil, tüm bağlantılarıyla tüm toplumu taklit etmek gerekecek, ancak dijital harman makineleri bunu yapamaz.

Ardından, koşullu Perm Bölgesinde sınırlı bir modda başlatılacaktır. Hatalar, hata ayıklama, yeni sürüm ve üretim?

Ancak er ya da geç kırmızı şerit kesilecek ve insanlar arabayı tam güçte (bir el düğmedeyken) kontrol edebilecekler.

Ve ne olacağını biliyor musun? İskin tüm işlemleri tamamen sonlandıracaktır. “Eğer-o zaman” mantığı, mevcut mevzuatta on binlerce kez birbiriyle çelişen milyonlarca düzenleyici normla çarpışacaktır. Finita. Trenlerimiz duracak, süpermarkette bir kutu saury için ödeme yapılmayacak. Herkes derhal yetkililere gönderilebilecek bir dizi suç ve suçla itham edilecek, ancak yetkililerdeki tüm kişiler derhal görevden alınıp yargılanacak. Mahkeme kararları iddiayı derhal ortaya çıkaracaktır. Büyük randevu, her şey senin hakkında yazılmış. Tamam, bunlar küçük şeyler. Ama maaşınızı da aktaramayacaklar çünkü büronun vergi borcu var ve vagon sizi cezalandırıyor.

Abartmak mı? Hayır. İlk başlatma (bir el şalter üzerindeyken) kontrol edilecek, ikinci test, yirmi iki test … Ve bir gün, tüm test döngüsünü geçmiş gibi tam olarak açılacak. Sonra da… Görevlileri görevden alacağız, gönüllüler durumu kurtaracak.

Böyle üzücü sonuçlardan kaçınmak mümkün mü? - Elbette deneyebilirsin. Bunu yapmak için bir takım şeyler yapılmalıdır. Mevzuatın %99'unu yok edin, kalan %1'i bebeği suya dökmeden geri dönüştürün. (Bu tür şeyler genellikle tam teşekküllü bir iç savaşla tam teşekküllü bir devrimden sonra yapılır. Barış zamanında nasıl yapılır - hiçbir fikrim yok.) Ayrıca, ahlakın yeniden işlenmesi gerekir. Ofisten bir paket kağıt çalmak (veya karısını aldatmak) açısından, ya tamamen kabul edilebilir (yasada yansıtılır) ya da tamamen bir zaman sınırı gerektirir. Bu ahlak toplumun zihninde yeniden canlandırılmalıdır. Aksi takdirde ucuz, basit ve yapay zekaya karşı etkili olan optik kabloları kesmeye başlayacaktır. Başka bir seçenek de bu iskin'i muhtemel bir ortağa atmak, kendi elini kesmesine izin vermek. Ve elbette, üst sınıflar rahatsız edici olmamalıdır. Eğer başaramazlarsa, bunu son bir şans olarak kullanacaklardır.

Seni bilgisayarları çökertmeye ikna etmeye çalışmıyorum. İskin'den bir yere gitmeyeceğiz. Bizi geçecek, onunla meşgul olmamız gerekecek. Kaderimizle neyle (kiminle) savaşa girmemiz gerektiğini anlamaya çalışalım.