Ve diğer tanınmış araştırmacılar, yapay zeka (AI) geliştirme alanında güvenlik standartlarının oluşturulması çağrısında bulunan açık bir mektup yazdı. /İnternet sitesi/
Özellikle, arızalı yapay zekanın insanlara zarar vermesine izin vermeyecek güvenilir bir kontrol sisteminin araştırılması ve geliştirilmesi çağrısında bulundular. Mektup, "Tam insan kontrolünü sağlamak için teknik çalışmaların yapılması gerekiyor" diyor.
Mektubun ılımlı tonuna rağmen, yeni teknolojiden korkan Ludditler paniğe kapıldı. Yanıt olarak, basında bu korkuları ortadan kaldıran birçok bilim adamı röportajı ve açıklaması yer aldı.
Baidu'da bir AI uzmanı olan Andrew Ng, Fusion'a "Bugün üzerinde çalıştığımız yazılımın yıkıcı hale gelmesi için gerçekçi bir senaryo görmüyorum" dedi.
Buna karşılık, gazeteci Scott Alexander, yapay zekanın geliştirilmesinde yer alan ve yapay zekanın potansiyel tehlikesi hakkında konuşan tanınmış bilim adamlarının bir listesini derledi.
Korku ve endişe
Berkeley'deki California Üniversitesi'nde bilgisayar bilimi profesörü olan Stuart Russer, AI'yı kontrol etmek için mekanizmaların geliştirilmesini nükleer reaktörlerin güvenliği için önlemlerin alınmasıyla karşılaştırdı.
“Bazıları, bu konunun önümüzdeki birkaç yüz yıl içinde insanlık için bir tehlike oluşturmadığına inanıyor. Russell, Rutherford'un kendinden emin bir şekilde atom enerjisinin asla elde edilemeyeceğini ilan etmesinden 24 saat sonra Leo Szilard'ın nükleer zincirleme reaksiyonu keşfettiğini unutuyorlar.
Ona göre Russell yalnız değil. Vincent Muller ve Nick Bostrom tarafından 170 üst düzey yapay zeka uzmanı arasında 2014 yılında yapılan bir ankette, bunların %18'i süper akıllı bir makine inşa etmenin insanlık için "gerçek bir felaket" olacağına inanıyordu. %13'ü gelişmiş yapay zekanın insanlar için olumsuz sonuçları olacağını söyledi. Bilim adamlarının yarısından biraz fazlası bunun olumlu bir etkisi olacağını söyledi.
Uzmanların yapay zekanın etkisi konusundaki görüşleri belirsiz olsa da, çoğu kişi gelişmiş yapay zekanın yaratılmasının sadece bir zaman meselesi olduğu konusunda hemfikir. Tahminlere göre, insana eşit bir yapay zeka 2050 (%50 olasılık) veya 2075'e kadar (%90 olasılık) yaratılacak. Ve yaratılmasından 30 yıl sonra, insanı her yönden geride bırakacak yapay bir süper zeka ortaya çıkacak.
çılgın kamyonlar
Rise of the Machines nasıl görünebilir? "Terminatör", "Robot", "Animatrix" gibi bilim kurgu filmlerinde insanların siborglarla savaşı gösterilir.
Bilim kurgu filmlerine bakılırsa, çoğu kişi potansiyel tehlikeden kaçınmanın kolay olduğu görüşünde olabilir.Sonuçta, AI temelde sadece bir bilgisayar yazılımıdır.
Bununla birlikte, yapay zekanın gerçek dünyada güç kazanmak için mekanik bir vücuda sahip olması gerekmez: tüm günlük elektronik cihazlarımızı kolayca kontrol etmeye başlayabilir.
Stephen King, "Kamyonlar" adlı kısa öyküsünde böyle bir senaryo sundu. 70'li yıllarda yazılan hikayede kamyonlar bilinçleniyor ve insanlara saldırmaya başlıyor. Bir grup insan öfkeli kamyonlardan saklanır. Kamyonların çalışması için hala yakıt gerekiyor ve insanlara doldurmalarını emretmek için Mors alfabesini kullanıyor, yoksa buldozer kapaklarını patlatacak. İnsanlar itaat eder.
Hikaye, anlatıcının kamyonların insanlığı köleleştirdiği ve değerlerini her yerde empoze ettiği, örneğin onları dünyanın her yerinde otoyol inşa etmeye zorladığı vizyonuyla sona erer. Gökyüzünde uçan bir uçağın sesiyle hayal dünyasından çekilir.
Stephen King'in hikayesi yazıldığı dönemde fütüristik görünse de modern dünyanın gerçeklerinden o kadar da uzak değil. sürücüsüz kamyonlar zaten var ve gelecekte şirketler paradan tasarruf etmek için sürücüleri otonom bir navigasyon sistemiyle değiştirebilir.
Geçen yılki Sony hack'i, bilgi sistemlerimizin giderek daha savunmasız hale geldiğini gösteriyor. Bu, altyapıların artan bilgisayarlaşmasının sonuçlarından biridir.
Ancak henüz endişelenecek bir durum yok. Yapay zekanın insan beyniyle boy ölçüşebilmesi için kat etmesi gereken uzun bir yol var. Kendi kendine giden kamyon örneği bunu iyi bir şekilde göstermektedir. Kalabalık şehir sokaklarında bağımsız olarak sürmek için hala çok kusurlu olsalar da.
Telefonunuza epochtimes makalelerini okumak için bir uygulama yükler misiniz?
Popüler Amerikan İnternet dergisi Wired, Kevin Kelly'nin yapay zekanın tehlikeleri fikrini ayrıntılı olarak eleştirdiği son derece ilginç bir metin yayınladı. "NI" bu materyalin bir çevirisini yayınlar, yapılmış Telegram kanalı Newochem tarafından küçük kesintilerle.
“Gelecekte yapay zeka bilgisayarların insanlardan o kadar akıllı hale geleceğini, bizi işlerden ve kaynaklardan mahrum edeceklerini ve sonunda insanlığın sonunun geleceğini duydum. Ama öyle mi? AI hakkında her ders verdiğimde bana sorulan soru bu.
Soru soran kişiler her zamanki gibi ciddiler, tedirginlikleri kısmen aynı soruyla eziyet çeken bazı uzmanların kaygılarından kaynaklanıyor. Bunların arasında çağdaşlarımızın en zekileri var - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris ve Bill Gates.
Hepsi böyle bir senaryonun olasılığını kabul ediyor. Yapay zeka üzerine yakın tarihli bir konferansta, alandaki en aydınlanmış dokuz gurudan oluşan bir panel gelmek insanüstü zekanın yaratılmasının yakın olduğu ve çok uzak olmadığı konusunda oybirliğiyle varılan sonuca.
Yine de, insanlığın yapay zeka tarafından köleleştirilmesi senaryosu, daha yakından incelendiğinde kanıtlanmamış olduğu ortaya çıkan beş varsayıma dayanmaktadır. Bu ifadeler gelecekte doğru olabilir, ancak bugüne kadar hiçbir şey doğrulanmadı.
İşte buradalar:
- Yapay zeka zaten insan zihninden daha akıllı hale geliyor ve bu süreç katlanarak ilerliyor.
- Bizimkine benzer genel amaçlı bir yapay zeka geliştireceğiz.
- Silikondan insan zekası yaratabiliriz.
- Zeka sınırsız olabilir.
- Görkemli bir süper zeka oluşturmak, sorunlarımızın çoğunu çözecektir.
Bu ortodoks varsayımlara karşı, kanıtlanmış şu sapkınlığı aktarabilirim:
- Zeka tek boyutlu değildir, bu yüzden "bir insandan daha zeki" anlamsız bir kavramdır.
- İnsanlara yapay zekayı da tehdit etmeyen genel amaçlı bir akıl bahşedilmemiştir.
- İnsan ve bilgisayar arasındaki rekabet maliyetlerle sınırlı olacaktır.
- Zeka sınırsız değildir.
- AI'nın oluşturulması, ilerlemenin yalnızca bir parçasıdır.
İnsanın yapay zeka tarafından köleleştirildiği inancı beş temelsiz varsayıma dayanıyorsa, o zaman bu fikir daha çok dini inançlara - mitlere benzer. Sonraki bölümlerde, karşı argümanlarımı gerçeklerle tamamlayacağım ve insanüstü yapay zekanın gerçekten de bir efsaneden başka bir şey olmadığını kanıtlayacağım.
Yapay zeka hakkındaki en yaygın yanılgı, doğal zekanın tek boyutlu olduğu şeklindeki eşit derecede popüler inançtan kaynaklanmaktadır. Kesin bilimlerde, çoğu zekayı Nick Bostrom'un Supermind adlı kitabında yaptığı gibi, kelimenin tam anlamıyla artan genliğe sahip tek boyutlu doğrusal bir grafik olarak tasvir eder.
Bir uçta en düşük zeka düzeyine sahip varlıklar, örneğin küçük hayvanlar ve diğer uçta - dahiler, sanki zeka düzeyi desibel cinsinden ölçülen ses düzeyinden farklı değilmiş gibi. Elbette böyle bir durumda, zeka seviyesinin haritanın en yüksek notunu aştığı ve hatta onu aştığı daha fazla bir artışı hayal etmek kolaydır.
Böyle bir model, zeka seviyelerinin artan sırada düzenlendiği basamaklarda topolojik olarak bir merdivene eşdeğerdir. Daha az zeki hayvanlar merdivenin en alt basamaklarını işgal eder ve daha üst düzey yapay zeka kaçınılmaz olarak üstümüzde yer alır. Bunun ne zaman gerçekleşeceğine ilişkin zaman çerçevesi önemsizdir. Çok daha önemli olan, hiyerarşinin basamaklarıdır - artan zekanın ölçütleridir.
Bu modelin sorunu, tıpkı evrimsel merdiven modeli gibi efsanevi olmasıdır. Darwinizm'den önce yaban hayatı, insanın daha ilkel hayvanlardan bir adım daha üstün olduğu bir canlılar merdiveni olarak temsil ediliyordu.
Ve Darwin'den sonra bile en yaygın kavramlardan biri evrim merdivenidir. Balıkların sürüngenlere, memelilere, primatların insana dönüşümünü gösterir. Dahası, sonraki her yaratık, öncekinden daha gelişmiştir (ve elbette daha zekidir). Yani akıl merdiveni, evrenin merdiveni ile ilişkilidir. Ancak her iki model de tamamen bilim dışı görüşleri yansıtmaktadır.
Doğal evrim için daha doğru bir model, yukarıdaki resimde olduğu gibi dışa doğru ayrılan bir disk olacaktır. İlk kez böyle bir yapı Teksas Üniversitesi'nden David Hillis tarafından geliştirildi, bunu DNA temelinde yaptı. Bu soyağacı mandala, yaşamın en ilkel biçimlerinin merkezinde başlar ve sonra dışa doğru dallanır. Zaman ilerliyor, bu nedenle en son yaşam formları dairenin çevresi boyunca yer alıyor.
Bu görüntü, evrim hakkında çok önemli olan anlaşılmaz bir gerçeği vurgulamaktadır - tüm canlılar eşit şekilde evrimleşmiştir. İnsan, diskin dış kısmında hamamböcekleri, yumuşakçalar, eğrelti otları, tilkiler ve bakterilerle birlikte bulunur.
İstisnasız tüm türler üç milyar yıllık içinden çıkılmaz bir başarılı üreme zincirinden geçmiştir, bu da bakteri ve hamamböceklerinin insanlar kadar gelişmiş olduğu anlamına gelir. Merdiven yok.
Aynı şekilde zeka merdiveni de yoktur. Zeka tek boyutlu değildir. Her biri sürekli olan farklı biliş türleri ve yöntemlerinin bir kompleksidir. Hayvanlarda zekayı ölçmek için basit bir egzersiz yapalım. Akıl tek boyutlu olsaydı, papağan, yunus, at, sincap, ahtapot, mavi balina, kedi ve gorili kolayca artan zeka sırasına göre sıralayabilirdik.
Şu anda böyle bir dizinin varlığına dair hiçbir bilimsel kanıt yoktur. Bunun nedeni, bazı hayvanların zeka seviyeleri arasında fark olmaması olabilir, ancak bu da mantıksızdır.
Zooloji, hayvanların düşüncesindeki çarpıcı farklılıkların örnekleri bakımından zengindir. Belki de tüm hayvanlara "genel amaçlı" zeka bahşedilmiştir? Belki, ama bu tür bir zekayı ölçecek tek bir aracımız yok. Bununla birlikte, farklı biliş türleri için birçok ölçüm sistemimiz var.
Tek bir desibel satırı yerine, Richard Dawkins'in algoritması tarafından oluşturulan olası formların görselleştirilmesinde olduğu gibi, zekayı bir olasılık uzay diyagramı olarak tasvir etmek daha doğru olacaktır. İstihbarat, kombinatoryal bir sürekliliktir. Her biri bir süreklilik olan birçok düğüm, birçok boyutta devasa bir çeşitlilik kompleksi yaratır. Bazı zeka türleri, geniş bir düşünme alt düğümleri kümesiyle çok karmaşık olabilir. Diğerleri daha basit ama daha aşırı, uzayın en uç noktasına ulaşıyorlar.
Bizler için farklı akıl türleri ifade eden bu külliyeler, farklı müzik aletlerinde icra edilen senfoniler gibi algılanabilir. Sadece ses olarak değil, melodi, renk, tempo vs. olarak da farklılık gösterirler. Bunları bir ekosistem gibi düşünebilirsiniz. Bu anlamda, düşünce düğümlerinin çeşitli bileşenleri birbirine bağlıdır ve birbirlerinden inşa edilir.
Marvin Minsky'nin dediği gibi, insan bilinci bir akıl toplumudur. Düşüncemiz tam bir ekosistemdir. Beynimizin farklı zihinsel işlevleri yerine getiren birçok bilme yolu vardır: tümdengelim, tümevarım, duygusal zeka, soyut ve uzamsal düşünme, kısa süreli ve uzun süreli hafıza.
Tüm insan sinir sistemi, kendi biliş düzeyine sahip beynin bir parçasıdır. Aslında düşünme süreci beyin tarafından değil, tüm insan vücudu tarafından gerçekleştirilir.
Tüm düşünme çeşitleri hem türler arasında hem de aynı türün üyeleri arasında farklılık gösterir. Bir sincap, birkaç bin meşe palamudunun tam yerini yıllarca hatırlayabilir ki bu, bir kişi için tamamen anlaşılmazdır. Bu tür bir düşüncede, insanlar proteinlerden daha aşağıdır. Bir sincabın zihni, bu süper gücün, bir kişinin sincaptan üstün olduğu diğer zeka biçimleriyle birleşimidir. Hayvanlar aleminde, belirli hayvan zekası biçimlerinin insanlara üstünlüğüne dair birçok örnek bulunabilir.
Aynı durum zaten bazı alanlarda insandan üstün olan yapay zeka ile de gelişmiştir. Herhangi bir hesap makinesi bir matematik dehasıdır ve Google'ın hafızası bazı yönlerden şimdiden bizimkinden daha iyidir.
Bazı yapay zekalar, bizim yapamayacağımız türden zihinsel faaliyetler gerçekleştirir. Altı milyar web sayfasındaki her kelimeyi ezberlemek, insanlar için imkansız, arama motorları için ise önemsiz bir iştir. Gelecekte, insanın erişemeyeceği ve doğada bulunmayan tamamen yeni düşünme biçimleri yaratacağız.
Uçan makinelerin mucitleri, doğal uçuştan - kanat çırpmaktan ilham aldılar. Ancak daha sonra pervanelere bağlı sabit bir kanat icat edildi ve bu, doğada bulunmayan tamamen yeni bir uçuş ilkesiydi.
Hiçbir türün yapamayacağı yeni düşünme yollarını bu şekilde icat ediyoruz. Büyük olasılıkla, bunlar yalnızca oldukça uzmanlaşmış problemlere uygulanabilen ilkeler olacaktır: örneğin, yalnızca istatistik ve olasılık teorisinde ihtiyaç duyulan yeni mantıksal yapılar.
Yeni bir düşünce türü, insan zihninin baş edemediği sorunları çözmeye yardımcı olacaktır. İş ve bilim alanındaki en zor sorulardan bazıları iki adımlı bir çözüm gerektirir. İlk adım, doğal düşünmenin yeni bir yolunu icat etmektir. İkincisi, AI ile birlikte cevaplar aramaya başlamaktır.
İnsanlar, daha önce çözülemeyen sorunları onun yardımıyla çözebilirse, yapay zekayı kendilerinden daha akıllı görmeye başlayacaklar. Aslında, AI düşüncesi bizimkinden daha iyi değil, sadece farklı. Yapay zekanın asıl faydasının bir yabancı gibi düşünebilmesi olduğuna ve bu yabancılaşmanın ana avantajı olduğuna inanıyorum.
Ayrıca, farklı zihniyetlere sahip karmaşık yapay zeka "toplulukları" oluşturacağız. O kadar karmaşık olacaklar ki baş edemeyeceğimiz sorunları çözebilecekler. Bu nedenle, bazı insanlar yanlışlıkla AI komplekslerinin insanlardan daha akıllı olduğunu düşüneceklerdir. Ancak, hafızası bizimkinden daha iyi olmasına rağmen, Google arama motorunun bir insandan daha akıllı olduğuna inanmıyoruz.
Bu yapay zeka komplekslerinin birçok alanda bizi geçmesi muhtemeldir, ancak hiçbiri aynı anda her yerde insanı geçemez. Fiziksel gücümüzde de benzer bir durum söz konusudur. Sanayi Devrimi'nden iki yüz yıl sonra, makineler bir sınıf olarak koşma hızı, ağırlık kaldırma, kesme hassasiyeti ve diğer faaliyetlerde insanlardan çok daha iyi performans gösterse de, hiçbir makine her açıdan ortalama bir insanı geçemedi.
AI yapısının karmaşıklığına rağmen, onu modern bilimin yöntemleriyle ölçmek imkansızdır. Hangisinin daha zor olduğunu, bir salatalık mı yoksa Boeing 747 mi olduğunu söyleyecek araçlarımız yok ve karmaşıklıklarındaki farklılıkları ölçecek bir yöntemimiz yok. Bu nedenle, entelektüel yetenekler için hala kesin kriterlerimiz yok.
Zamanla, hangisinin daha zor ve buna göre daha akıllı olduğunu belirlemek giderek daha zor hale gelecektir: A zekası veya B zekası. Zihinsel aktivitenin keşfedilmemiş birçok alanı vardır ve esas olarak bu, zihnin tek boyutlu olmadığını anlamamızı engeller.
İnsan zihni hakkındaki ikinci yanılgı, zihnimizin evrensel olduğuna inanmamızdır. Bu yaygın inanç, bir zamanlar yapay zeka uzmanları tarafından teşvik edilen yapay genel zekaya (AGI) doğru izlediğimiz yolu şekillendiriyor.
Ancak zihni uçsuz bucaksız bir olasılıklar alanı olarak düşünürsek, genel amaçlı bir durumdan söz edemeyiz. İnsan zihni soyut bir merkezi yer işgal etmez ve diğer özelleşmiş zihin türleri onun etrafında dönmez.
Aksine, insan zekası, türümüzün bu gezegende hayatta kalması için milyonlarca yılda evrimleşmiş son derece özel bir zeka türüdür. Zekamızı diğer tüm olası zeka türlerinin arasına yerleştirmek isteseydik, sonunda köşede bir yerde olurdu - tıpkı bizim dünyamızın kendisi gibi, devasa bir galaksinin kenarına yuvalanmış.
Elbette, özellikleri bakımından bir İsviçre Çakısına benzeyen bir tür düşünceyi hayal edebilir ve bazen icat edebiliriz. Pek çok görevle başa çıkıyor gibi görünüyor, ancak bir patlama ile değil.
İster kasıtlı olarak yaratılmış olsun ister doğal olarak dünyaya gelmiş olsun, her şeyin uyması gereken teknik bir kural vardır: “Bütün ölçüleri optimize etmek imkansızdır. Sadece tavizler bulabilirsiniz. Hepsi bir arada çok işlevli bir makine, özel işlevlerden daha iyi performans gösteremez.”
Her şeyi yapan bilinç, belirli görevlerin uzman icracılarıyla eşit düzeyde çalışamaz. Bilincimizi evrensel bir mekanizma olarak gördüğümüz için, bilişin uzlaşmaya dayanmaması gerektiğine ve her türlü düşünmede maksimum derecede verimlilik gösteren yapay zekanın icat edilebileceğine inanıyoruz.
Ancak, bu iddia için hiçbir kanıt göremiyorum. Resmin tamamını görmemize izin verecek kadar yeterli bilinç çeşidini henüz yaratmadık (şimdilik, hayvanların bilincini tek bir parametrenin prizmasından değişken genliğe sahip ayrı bir düşünme türü olarak düşünmemeyi tercih ediyoruz).
Düşüncemizin olabildiğince evrensel olduğuna dair bu inancın bir kısmı, evrensel hesaplama kavramından kaynaklanmaktadır. Bu varsayım, 1950'de Church-Turing tezi olarak adlandırıldı. Belirli parametreleri sağlayan tüm hesaplamaların eşdeğer olduğunu belirtir.
Böylece, tüm hesaplamalar için evrensel bir temel vardır. Hesap ister çok sayıda hızlı makine içeren tek bir makinede, ister daha düşük performanslı bir makinede, hatta biyolojik bir beyinde yapılsın, aynı mantıksal işlemdir. Bu da, "evrensel" hesaplamalar yapabilen herhangi bir makine ile herhangi bir hesaplama sürecini (düşünmeyi) simüle edebileceğimiz anlamına gelir.
Tekilliğin savunucuları bu ilkeyle, insan bilincini barındırabilecek silikon tabanlı yapay bir beyin tasarlayabileceğimiz, insan gibi düşünecek ama kat kat daha verimli düşünecek bir yapay zeka yaratabileceğimiz yönündeki beklentilerini haklı çıkarıyorlar. Bu umutlar, Church-Turing tezinin yanlış yorumlanmasına dayandığından, belirli bir şüphecilikle ele alınmalıdır.
Bu teorinin çıkış noktası şudur: "Sınırsız hafıza ve zaman koşullarında, tüm hesaplamalar eşdeğerdir." Sorun, gerçekte hiçbir bilgisayarın sonsuz bellek veya zaman özelliklerine sahip olmamasıdır. Gerçek dünyada hesaplamalar yaparken, zaman bileşeni son derece önemlidir, öyle ki bu genellikle bir ölüm kalım meselesidir.
Evet, zamansal yönü hariç tutarsak, tüm düşünme türleri eşittir. Evet, zamanı veya gerçek dünyadaki boş alan ve hafıza sınırlamalarını göz ardı etmeyi seçerseniz, herhangi bir matriste insan düşünce sürecini taklit etmek mümkündür.
Ancak, bu denkleme zaman değişkenini dahil edersek, şu ilkenin formülasyonunu önemli ölçüde değiştirmek zorunda kalacağız: "Kökten farklı platformlarda çalışan iki bilgi işlem sistemi, gerçek zamanlı olarak eşdeğer hesaplamalar üretmeyecektir."
Bu ilke şu şekilde yeniden formüle edilebilir: “Eşdeğer düşünme biçimleri elde etmenin tek yolu, onları aynı temelde yürütmektir. Hesaplamalarınızı yaptığınız fiziksel ortam - özellikle karmaşıklık derecesi arttıkça - gerçek zamanlı koşullarda düşünme şeklinizi önemli ölçüde etkiler.
Mantık zincirine devam ederek, insana olabildiğince yakın bir düşünce biçimi oluşturmanın tek yolunun, mümkün olduğunca gri maddemize benzeyen maddeyi kullanarak hesaplamalar yapmak olduğunu varsayacağım.
Bu, kuru silikon temelinde yaratılan hantal, karmaşık yapay zekanın beceriksiz, karmaşık ve insan türlerine benzemeyen düşünceler üreteceğinin de varsayılabileceği anlamına gelir. İnsan gibi yapay nöronlar kullanarak ıslak madde üzerinde çalışan yapay zeka yaratmak mümkün olsaydı, böyle bir yapay zekanın düşünce süreci bizimkine çok daha yakın olurdu.
Böyle bir "ıslak" sistemin avantajları, kullanılan fiziksel ortamın insana yakınlığıyla orantılıdır. Böyle bir maddenin yaratılması, en azından doğamız gereği içimizde bulunana benzer bir seviyeye ulaşmak için büyük maddi maliyetler gerektirecektir. Ve bu şekilde yeni bir insan yaratabiliriz - sadece 9 ay beklemeniz gerekiyor.
Ayrıca daha önce de belirtildiği gibi sadece bilincimizle değil tüm varlığımızla düşünürüz. Modern bilim, sinir sistemimizin "rasyonel" karar verme sürecini nasıl etkilediğine, tahminde bulunduğuna ve uyum sağladığına dair birçok veriye sahiptir. İnsan vücudunun sistemini ne kadar çok düşünürsek, onu daha sonra o kadar dikkatli bir şekilde yeniden yaratabiliriz. Bizimkinden kökten farklı bir madde (ıslak karbon yerine kuru silikon) üzerinde çalışan yapay zeka da farklı düşünecektir.
Bu özelliğin daha çok bir "hata değil, özellik" olduğunu düşünmüyorum. Bu makalenin ikinci paragrafında öne sürdüğüm gibi, yapay zekanın temel avantajı düşünce sürecindeki farklılıklardır. İşte onun "insan beyninden daha zeki" olduğunu söylemenin yanlış olmasının bir nedeni daha.
İnsanüstü zeka kavramının - ve özellikle bu tür yapay zekanın sürekli kendini geliştirmesi teorisinin - kalbinde, zekanın sınırsızlığına olan samimi bir inanç yatar. Bu iddia için herhangi bir kanıt bulamadım.
Yine zekanın sadece tek bir boyutla tanımlanan bir sistem olarak yanlış algılanması bu iddianın yayılmasına katkıda bulunur, ancak bunun asılsız kaldığını anlamamız gerekir. Evrende sonsuz fiziksel boyutlar yoktur - en azından bilim tarafından hala bilinmiyorlar.
Sıcaklık sonsuz değildir - soğuk ve sıcaklığın minimum ve maksimum göstergeleri vardır. Uzay ve zaman da hız gibi sınırsız değildir. Belki sayısal eksen sonsuz olarak adlandırılabilir, ancak diğer tüm fiziksel parametrelerin sınırları vardır. Elbette zihnin kendisi de sonludur.
Şu soru ortaya çıkıyor: zekanın sınırları nerede? Karıncaların "üzerinde" olduğumuz kadar, sınırın çok uzaklarda bir yerde, bizim "üzerimizde" olduğuna inanırdık. Çözülmemiş tek boyutluluk sorununu bir kenara bırakırsak, sınıra henüz ulaşmadığımızı nasıl kanıtlayabiliriz? Neden yaradılışın tacı olamıyoruz? Ya da belki neredeyse insan yeteneklerinin sınırlarına ulaştık? Zekanın sürekli gelişen bir kavram olduğuna neden inanıyoruz?
Zekamızı çok sayıda düşünce türünün çeşitlerinden biri olarak düşünmek daha iyidir. Bilişin ve hesabın her boyutunun bir sınırı olmasına rağmen, yüzlerce boyut varsa o halde aklın sayısız çeşitleri vardır ama hiçbiri hiçbir boyutta sonsuz değildir.
Bilinç teması üzerine bu sayısız varyasyonu yaratırken veya bunlarla karşılaşırken, onları yeteneğimizin ötesinde deneyimleyebiliriz. En son kitabım Kaçınılmaz'da, şu ya da bu şekilde bizden aşağı olan bu çeşitlerin bazılarının bir listesini çıkardım. İşte o listeden bir bölüm:
İnsana olabildiğince yakın, ancak daha yüksek reaksiyon hızına sahip zihin (en basit yapay zeka);
Ana bileşenleri geniş depolama alanı ve hafıza olan çok yavaş bir zihin;
Birlikte hareket eden milyonlarca bireysel bilinçten oluşan evrensel zeka;
Bir olduklarından habersiz çok sayıda son derece üretken zekadan oluşan bir kovan zihni;
Borg supermind (kolektif bir zihne sahip, Star Trek serisindeki tüm canlıları kolektiflerine asimile etmeye çalışan bir siborg ırkı - yakl. yeni ne) - bir bütün olduklarının açıkça farkında olan bir dizi son derece işlevsel zeka;
Kullanıcının kişisel bilincini geliştirmek için tasarlanmış, ancak başka kimse tarafından kullanılamayan bir zihin;
Daha karmaşık bir zihni hayal edebilen, ancak onu yaratamayan akıl;
Bir gün başarılı bir şekilde daha karmaşık bir zihin yaratmak için mantıklı;
Akıl, daha karmaşık bir zihin yaratabilir, bu da daha da karmaşık bir zihin yaratabilir, vb.;
Kaynak koduna hızlı erişimi olan Reason (işleyiş özelliklerini her an değiştirebilir);
Duyguları deneyimleme yeteneğinden yoksun süper mantıksal zihin;
Sorunları çözmeyi amaçlayan, ancak iç gözlemden aciz standart zihin;
İç gözlem yapabilen ancak kendisine verilen görevleri çözemeyen bir zihin;
Oluşumu uzun zaman alan bir zihin, koruyucu bir zihne ihtiyaç duyar;
Daha hızlı yanıt veren bilinç biçimlerine "görünmez" görünen geniş bir fiziksel alana dağılmış olağanüstü yavaş bir zihin;
Kendi kopyalarını hızla ve tekrar tekrar üretebilen bir zihin;
Kendi kopyalarını üretebilen ve onlarla bir kalabilen bir zihin;
Ev sahibinden ev sahibine geçerek ölümsüzlüğe ulaşma yeteneğine sahip zihin;
Düşünmenin sürecini ve doğasını değiştirebilen hızlı, dinamik zihin;
İç gözlem yapabilen (boyut ve salınan enerji açısından) en küçük bağımsız birim olan nano-akıl;
Komut dosyası oluşturma ve tahminde uzmanlaşmış bir zihin;
Yanlış bilgi dahil hiçbir şeyi unutmayan bir zihin;
Yarı makine, yarı hayvan;
Yarı makine, yarı çift cinsiyetli siborg;
İşinde bizim için anlaşılmaz olan niceliksel analiz kullanan bir zihin.
Bugün, bazıları listelenen düşünme türlerinin her birini insanüstü yapay zeka olarak adlandırıyor, ancak gelecekte bu zeka türlerinin çeşitliliği ve yabancılaşması bizi yeni sözlüklere dönmeye ve düşünme ve zeka konusunu ayrıntılı olarak incelemeye zorlayacak.
Ek olarak, insanüstü AI fikrinin taraftarları, zihinsel yeteneklerinin seviyesinin katlanarak artacağını varsayarlar (yine de bu seviyeyi değerlendirmek için bir sistemleri yoktur). Belki de üstel gelişim sürecinin zaten başladığına inanıyorlar.
Her neyse, bugün nasıl ölçerseniz ölçün, böyle bir büyümeye dair hiçbir kanıt yok. Aksi takdirde bu, AI'nın zihinsel yeteneklerinin belirli bir süre içinde ikiye katlanması anlamına gelir.
Bunun onayı nerede? Şu anda katlanarak büyüyen tek şey yapay zeka endüstrisine yapılan yatırım. Ancak bu yatırımların getirisi Moore yasası ile açıklanamaz. AI, üç yılda, hatta on yılda iki kat daha akıllı hale gelmez.
Pek çok AI uzmanına sordum, ancak herkes makullük kriterlerimiz olmadığı konusunda hemfikir. Üsün gerçek sihirbazı Ray Kurzweil'e yapay zekanın üstel gelişimine dair kanıtları nerede bulacağımı sorduğumda, bana yapay zekanın gelişiminin patlayıcı olmadığını, kademeli bir süreç olduğunu yazdı.
“Hiyerarşiye yeni bir seviye eklemek, hem hesaplama gücünde üstel bir artış hem de algoritmanın karmaşıklığında bir artış gerektirir ... Bu nedenle, her biri kendi yeteneklerimizde üstel bir artış gerektirdiğinden, koşullu seviyelerin sayısında doğrusal bir artış beklemeliyiz. Neokorteksin (insan korteksinin daha yüksek sinir fonksiyonlarından sorumlu olan ana kısmı) yapay zeka yeteneklerine ulaşmak için çok fazla zorluk seviyemiz kalmadı - yakl. daha yeni), bu yüzden hala 2029 hakkındaki varsayımlarımın doğru olduğuna inanıyorum.
Ray, katlanarak büyüyen şeyin yapay zekanın gücü değil, onu yaratma çabası olduğunu ve sonuçlarının her seferinde bir adım arttığını söylüyor gibi görünüyor. Bu, zeka patlaması hipotezinin neredeyse tam tersidir. Bu gelecekte değişebilir, ancak AI bugün açıkça katlanarak büyümüyor.
Bu nedenle, “AI patlamasını” hayal ettiğimizde, onu bir çığ olarak değil, birçok yeni türe bölünme olarak hayal etmeliyiz. Teknolojik ilerlemenin sonucu büyük olasılıkla bir süpermen değil, bir süpermen olacaktır. Bilgimizin ötesinde, ancak mutlaka "üstünde" değil.
Süper zekanın köleleştirilmesine dair bir başka efsane, kanıksanan, ancak kanıtlarla pek desteklenmiyor, sonsuza yakın bir zekanın tüm sorunlarımızı hızla çözebileceğidir.
Şimşek hızında AI'nın birçok savunucusu, devam eden bir patlama yaratmasını bekliyor. Ben bu inanca "düşüncecilik" diyorum, terim Vyacheslav Golovanov tarafından çevrilmiştir - yakl. yeni ne). Bu yaklaşım, ilerlemenin yalnızca yetersiz bir düşünme veya zeka düzeyi tarafından engellendiği inancına dayanmaktadır. (Ayrıca, yapay zekanın tüm hastalıklara çare olduğuna dair inancın, kendileri için düşünmeyi seven insanların çoğu için karakteristik olduğunu da not ediyorum.)
Kanseri yenmek ya da ömrü uzatmak meselesini ele alalım. Bunlar tek başına düşünerek çözülemeyecek sorunlar. Hücrelerin nasıl yaşlandığını veya telomerlerin nasıl kısaldığını hiçbir düşünce çözemez. Ne kadar havalı olursa olsun hiçbir zeka, dünyadaki bilinen tüm bilimsel literatürü okuyup analiz ederek insan vücudunun nasıl çalıştığını anlayamaz.
Bir süper yapay zeka, tüm mevcut ve geçmiş nükleer fisyon deneylerini düşünemez ve bir gün sonra nükleer füzyon için bir tarif bulamaz. Herhangi bir konuyu anlamamaktan anlamaya geçmek için, sadece düşünmekten daha fazlasına ihtiyacınız var.
Gerçekte, her biri bir sürü çelişkili veri veren ve doğru çalışan bir hipotez oluşturmak için daha fazla deney gerektiren birçok deney vardır. Tek başına olası sonuçları düşünmek doğru çıktıyı üretmeyecektir.
Düşünmek (akıl), bilim aletinin yalnızca bir parçasıdır. Büyük olasılıkla sadece küçük bir kısmı. Örneğin, ölüm sorununu çözmeye yaklaşmak için yeterli veriye sahip değiliz. Canlı organizmalarla çalışma durumunda, bu deneylerin çoğu zaman alır. Yavaş hücre metabolizması hızlandırılamaz. Sonuç almak yıllar, aylar veya en azından günler alır.
Atom altı parçacıklara ne olduğunu bilmek istiyorsak, sadece onlar hakkında düşünmek yeterli değildir. Bulmak için çok büyük, çok karmaşık, çok sofistike fiziksel modeller oluşturmalıyız. En zeki fizikçiler şimdikinden bin kat daha akıllı olsalar bile çarpıştırıcı olmadan yeni bir şey öğrenemezler.
Süper yapay zekanın bilimin gelişimini hızlandırabileceğine şüphe yok. Atomların veya hücrelerin bilgisayar modellerini oluşturabilir, onları birçok yönden hızlandırabiliriz, ancak simülasyonların anında ilerlemesini engelleyen sorunlar vardır.
Simülasyonların ve modellerin, yalnızca belirli değişkenleri göz ardı ettikleri için konularına göre daha hızlı keşfedilebileceğini hatırlamakta fayda var. Modellemenin özü budur. Bu tür modelleri konularının seviyesine uygun olacak şekilde test etmenin, incelemenin ve doğrulamanın uzun zaman aldığına dikkat etmek de önemlidir. Tecrübe ile test hızlandırılamaz.
Bir simülasyondaki basitleştirilmiş sürümler, ilerlemeyi hızlandırmanın en umut verici yollarını bulmak için kullanışlıdır. Ama gerçekte gereksiz hiçbir şey yoktur, her şey bir dereceye kadar önemlidir - bu, gerçekliğin büyük bir tanımıdır. Modeller ve simülasyonlar giderek daha ayrıntılı hale geldikçe, araştırmacılar gerçekliğin %100 simülasyonundan daha hızlı çalıştığı gerçeğiyle karşı karşıya kalıyor.
İşte gerçekliğin başka bir tanımı: tüm olası detayların ve serbestlik derecelerinin en hızlı işleyen versiyonu. Bir hücredeki tüm molekülleri ve insan vücudundaki tüm hücreleri simüle edebilseydiniz, bu model insan vücudu kadar hızlı çalışmazdı. Böyle bir modeli ne kadar düşünceli tasarlarsanız tasarlayın, ister gerçek bir sistem ister simülasyon olsun, yine de deney yapmak için zaman harcamanız gerekecektir.
Yararlı olması için yapay zekanın dünyaya tanıtılması gerekiyor ve bu dünyada inovasyonun gerekli hızı oldukça hızlı değişiyor. İlk deneyler, prototipler, hatalar ve gerçekliğe dahil olmadan akıl düşünebilir ama sonuç üretemez. "Bir erkekten daha akıllı" denildikten sonra ne bir saniyede, ne bir saatte ne de bir yılda anlık keşifler yapmayacaktır.
AI görünür. Elbette, bu yapay zeka daha karmaşık hale geldikçe keşif hızı da artacaktır, çünkü kısmen uzaylı yapay zekası hiçbir insanın sormayacağı sorular soracaktır, ancak (bize kıyasla) çok güçlü bir zeka bile anında ilerlemeyi garanti etmez. Sorunları çözmek zekadan çok daha fazlasını gerektirir.
Kanser ve uzun ömür sorunları zekanın tek başına çözemeyeceği sorunlar değildir. Teknolojik tekillik fikrini destekleyenler arasında yaygın bir yanılgı var: İnsanlardan daha akıllı bir yapay zeka yaratırsak, o zaman aniden gelişmeye başlayacak ve daha da akıllı bir yapay zeka yaratacaktır.
Yeni yapay zeka daha derin düşünecek ve daha akıllı bir şey icat edecek ve bu böyle devam edecek, ta ki tanrısal bir şey icat edilene kadar. Tek başına düşünmenin yeni zeka seviyeleri yaratmak için yeterli olduğuna dair hiçbir kanıt yok. Bu tür bir düşünce inanca dayalıdır.
Bununla birlikte, yeni bir etkili zekanın icadının yalnızca zihinsel çabalar değil, aynı zamanda deneyler, veriler, zor sorular, deneme yanılma gerektirdiğine dair pek çok kanıt vardır.
Hatalı olabileceğimi anlıyorum. Biz erken bir aşamadayken. Belki de evrensel bir zeka ölçeğini ya da her anlamda sonsuzluğunu keşfedeceğiz. Teknolojik bir tekillik olasılığı var çünkü zeka ve kişisel farkındalığın ne olduğu hakkında çok az şey biliyoruz. Kanımca, her şey bunun olası olmadığına işaret ediyor, ancak yine de bir şans var.
Bununla birlikte, OpenAI'nin daha geniş hedeflerini destekliyorum: dost canlısı yapay zeka geliştirmeli ve ona kendi kendine çoğalan ve bizimkiyle eşleşen değerleri nasıl vereceğimizi bulmalıyız.
İnsanüstü yapay zekanın uzun vadede zararlı olma olasılığı vardır, ancak bu fikir eksik kanıtlara dayanmaktadır ve bilim, politika veya ilerleme söz konusu olduğunda ciddiye alınmamalıdır.
Dünya'ya bir asteroit çarpması bizi yok edebilir, böyle bir sonucun olma olasılığı var (bu B612 Vakfı tarafından onaylandı), ancak küresel ısınma, uzay yolculuğu veya şehir planlaması konularında böyle bir sonucu dikkate almamalıyız.
Mevcut kanıtlar, büyük olasılıkla yapay zekanın insanüstü olmayacağını gösteriyor. İnsanın erişemeyeceği yeni düşünce çeşitlerine sahip olacak, ancak kapsamlı bir uygulama olmadan, ana sorunlarımızı bir anda çözecek bir tanrı olmayacak.
Bunun yerine sınırlı yeteneklere sahip bir beyinler birikimi haline gelecek, bize alışık olmadığımız alanlarda çalışmak bizden daha iyi olacak, bizimle birlikte hem var olan hem de yeni sorunlara çözüm bulabilecektir.
İnsanüstü ve tanrısal yapay zeka fikrinin ne kadar çekici olduğunu anlıyorum. Bir sonraki Süpermen olabilir. Ancak Süpermen gibi bu da kurgusal bir karakter. Evrende bir yerde Süpermen var olabilir, ancak bu pek olası değil. Ne olursa olsun, mitler yararlı olabilir ve bir kez yaratıldıktan sonra yok olmazlar.
Süpermen fikri sonsuza kadar yaşayacak. İnsanüstü yapay zeka ve Tekillik fikri şimdi ortaya çıkıyor ve asla unutulmayacak. Ne tür bir fikir olduğunu anlamamız gerekiyor: dini veya bilimsel. Yapay veya doğal zeka sorununu araştırıyorsak, insanüstü yapay zeka kavramımızın bir efsaneden başka bir şey olmadığını açıkça anlamalıyız.
İzole edilmiş Mikronezya adalarının kabileleri dış dünyayla ilk kez 2. Dünya Savaşı sırasında temas kurdu. Tanrılar uzak diyarlardan uçtu, gökten gürültülü kuşlara indi, hediyeler getirdi ve sonsuza dek uçup gitti. Bu tanrıların dönüşüne dair kültler ve yeni hediyeler adalara yayıldı. 50 yıl sonra şimdi bile birçoğu hala dönüşünü bekliyor.
Superhuman AI, bizim için yeni bir kargo kültü haline gelebilir. Belki yüz yıl sonra insanlar zamanımızı aynı şekilde algılayacaklar: Sanki insanüstü yapay zekaya inanmışız ve onlarca yıldır onun her an ortaya çıkıp bize hayal bile edilemeyecek hediyeler getirmesini beklemişiz gibi.
Ancak, insanüstü olmayan yapay zeka şu anda zaten var. Karmaşık hale getirmek için yeni bir tanım aramaya devam ediyoruz. Bununla birlikte, geniş anlamda, bize yabancı bir zihin, bir entelektüel yetenekler, düşünme, muhakeme mekanizmaları, öğrenme, öz-farkındalık yelpazesidir. AI yayılıyor ve yayılmaya devam edecek. Daha derin, daha çeşitli, daha güçlü hale gelir.
Yapay zekadan önce hiçbir icat dünyayı tamamen değiştiremezdi. 21. yüzyılın sonunda yapay zeka o kadar güçlü olacak ki hayatımızdaki her şeyi değiştirecek.
Ne olursa olsun, bize süper zenginlik veya süper kölelik (veya her ikisini birden) verecek insanüstü bir yapay zeka efsanesi yaşayacak. Ancak, gerçekte somutlaşması muhtemel olmayan bir efsane olarak kalacaktır.
Yapay zekanın insanlığın yararına çalışmasını sağlamak. Ancak birçok gazeteci, yapay zekanın insanlar için oluşturduğu tehdidi abarttı. Look At Me, robot ayaklanmasının neden bilim kurgu romanlarından ve filmlerinden (neredeyse kesinlikle kaçınacağımız) bir korku hikayesi olduğunu ve gerçekten endişelenmemiz gereken şeyi anladı.
Yapay zeka insanlığın sorunlarını çözecek
2015'te makine çevirisi artık her zaman çirkin değil, antropomorfik robotlar akıllı bir şekilde yürüyebilir ve koşabilir, konuşma ve görüntüleri tanıyabilir ve insansız araçlar hiçbir şeye çarpmadan şehirde dolaşabilir. Ve bunlar sadece DARPA gibi devlet kurumlarının yarı gizli geliştirmeleri değil, aynı zamanda hem hazır hem de ticari üretime yakın, tercüman veya tercüman olsun. otomobil Google. Gelecekte, bu şeyler engelli insanlara yardımcı olacak, dil engelini kaldıracak ve yol ölümlerini azaltacaktır.
Yapay zeka, karmaşık olasılık modellerine dayalı tahminler yapmak için giderek daha fazla kullanılıyor. Şimdiye kadar kapsama alanı küçük, ancak yakında küresel işgücü piyasasını neyin beklediğini öğrenebileceğiz. Özellikle üretimde makinelerin insanların yerini ne kadar çabuk alacağından ve iş sayısının çok olduğu bir dünyayı nasıl besleyebileceğimizden bahsediyoruz. azaltmak 2 kat ve nüfus 8,5 milyar kişiye çıkacak. Herkese yetecek kadar kaynağa sahip olmak için dünya ekonomilerinin verimliliğini artırmak gerekecek: maliyetleri düşürmek, işgücü verimliliğini artırmak, vergi sistemlerini dengelemek - kimse arabasız yapamaz. Ek olarak, yapay zeka, bilimin kullandığı yöntemleri yeniden düşünmeye yardımcı olacaktır: örneğin, birçok kişi gayri safi yurtiçi hasıla (GSYİH) göstergesinin artık dünyanın teknolojik açıdan en gelişmiş ekonomilerini değerlendirmek için uygun olmadığını söylüyor.
İnsanlar henüz robotları başlatmaya hazır değil
hayatına
Artık yapay zeka insanlara yardım ediyor ve onların yerini almıyor. Ancak ikinci aşama aniden yaklaşabilir ve insanlık yasaları güncellemez, etik ve ahlakı yeniden düşünmezse buna hazır olmayacaktır. Sırasıyla üç bilgi alanı tarafından çözülecek olan bir dizi soruyu yanıtlamak gerekiyor: hukuk, robotik ve makine ahlakı.
Başlamak için, avukatlar aşağıdaki soruları cevaplayacaktır:
Kazaya karışan insansız bir araçtan kim sorumludur - sahibi mi yoksa üreticisi mi?
Bir robot hukuk öznesi olmalı mı?
Yanlışlıkla bir insanı öldüren otonom askeri robottan kim sorumlu?
Cevapları aldıktan sonra, parlamentolar yeni yasa tasarılarını geçirecek, ve belki de yeni düzenleyiciler ortaya çıkacaktır - yapay zekanın gelişimine müdahale etmeyen bir durum neredeyse yoktur. Yapay zeka ile ilgili ilk politika girişimlerinin, sürücüsüz arabaların artık merak konusu olmadığı 2020'li yıllarda dünya çapında ortaya çıkması muhtemeldir.
Daha sonra uzmanlar, dikkate alınan konular üzerinde derinlemesine düşüneceklerdir.
robotik - insanlar ve robotlar arasındaki ilişkiyi inceleyen bir etik dalı:
İnsanlar robotlara hak vermeli mi?
Süper zeki robotlar insanların özgüvenini azaltabilir mi?
Robotlar insanların mahremiyetini ihlal edebilir mi?
Şimdi sorular saçma gelse de, Raymond Kurzweil gibi tanınmış fütüristler, 2020'lerin sonunda bilgisayarların insanların duygusal zekasını yakalayacağını, karakter ve duygu kazanacaklarını, şakalaşabileceklerini ve ortalama bir insandan ayırt edilmesi zor olacak şekilde davranacaklarını tahmin ediyor. İnsanlar bu tür robotlara kendi türleri gibi davranacak ve bu nedenle sorulan sorulara cevap aramanın zamanı geldi. Hayatın Geleceği Kurumu'nun imza kampanyasına imza atan ünlülerin çağrısı bu.
Son olarak, robotların yaratıcıları soruların cevaplarına karar vermek zorunda kalacaklar. sözde makine ahlakı - yapay zekanın ahlaki davranışı hakkında bir bilgi bölümü:
Yapay zeka etik kurallara uymalı mı, eğer öyleyse bunlar ne olmalı?
Kendini vurmaya karar veren askeri robotları yasaklamalı mıyız?
Bir robot, hesapladığı herhangi bir sonuç insanların ölümüne yol açtığında ne yapmalıdır?
Bilim kurgu yazarı Isaac Asimov, makine ahlakı hakkında şunları yazdı: robotiğin üç yasasıyla tanınır. Bilim camiası sadece son beş yıldır makine ahlakını düşünüyor ve geçen yıl ABD Savunma Bakanlığı, robotların ahlaka ihtiyacı olup olmadığına ve eğer öyleyse ne tür bir ahlaka ihtiyacı olduğuna karar vermeleri için bilim adamlarına 7,5 milyon dolar ayırdı.
eğer robotlar
ve yükselecekler
sonra halkın isteği üzerine
Genellikle bilimkurgu yazarları veya gelecekbilimciler makinelerin olası bir başkaldırısından söz ederken, üç senaryodan birini anlatıyorlar:
Makineler tehdidi görecek hem insanları hem de kendilerini yok edebilen;
makineler anlayacak insanlardan üstün olduklarını ve sınırlı kaynaklar için verdikleri mücadelede onları rakip olarak göreceklerini, ayrıca insanların her zaman makineleri kapatabileceklerini;
Makineler farkında köle konumunda olduklarını ve bunu düzeltmek istediklerini.
Bu senaryoların gerçekleşebileceğine inanan fütürologlar, güç dengesini şöyle görüyorlar:
İnsan Faydaları
mantıksızlık;
öngörülemezlik;
yalan söyleme yeteneği.
Makine avantajları
sınırsız hız ve evrim ölçeği;
büyük veri dizileriyle hızlı çalışma;
mükemmel hafıza;
çoklu görev
Son denemeler, yalanın sadece canlılara özgü bir özellik olmaktan çıktığını gösteriyor. 2009 yılında, Lozan'daki École Polytechnique Federale'de, gruplara ayrılmış 1.000 robotun, zehirli bir kaynaktan kaçınırken yararlı bir kaynak toplamasına yardımcı olmak üzere programlandığı bir deney gerçekleştirildi. Her robotun bir sensörü vardı (kaynağın iyi olup olmadığını belirleme)- robot yararlı bir kaynak bulduğunda yanıp sönen bir ışık ve bir "genom" - robotun etrafındaki dünyaya tepki verdiği fiziksel bağlantılı bir kod. Her aşamadan sonra, en iyi sonuçları elde eden robotların genomları rastgele "çaprazlandı".
9. nesilde, robotlar faydalı kaynakları doğru bir şekilde tespit etmeyi öğrendi ve 500. nesilde, robotların %60'ı "yalan söylemeyi" öğrendi - artık faydalı bir kaynak bulduklarında ışığı yanıp sönmeyip kendi hallerine bırakıyorlar. Gerçek şu ki, sitede her zaman çok az kaynak vardı ve bulduklarını paylaşan robotlar zamanla kaybetmeye başladı. Bu evrime yanıt olarak, robotların üçte biri ışık yakmayanları avlayarak "yalancı" aramayı öğrendi. Ancak makine ahlakı araştırmacısı Christopher Santos-Lan'ın da belirttiği gibi, robotların karşılaştığı asıl amaç değişmedi. Gerçek dünyada buna izin verilemez çünkü diğer koşullarda aynı hedef tehlikeli olabilir.
Ancak makineler ayağa kalkarsa, bu kendi iradeleriyle olası değildir. Yapay zeka ile uğraşan modern bilim adamları, öncelikle davetsiz misafirlerin elinde bir silah olarak tehlikeli olduğu konusunda hemfikirdir. The Future of Life Institution'ın mektubunun ekinde yapay zekanın 4 ana zayıflığını adlandırdıklarında kastettikleri şey bu:
"Sistemi doğru kurdum mu?"
Otonom yapay zekanın yaratıcısının yanılmadığını kanıtlamak gerekiyor: insansız bir araç, koddaki bir hata nedeniyle kaza yapmamalı;
"Sistemi davetsiz misafirlerden izole ettim mi?"
Yapay zekayı dış müdahale ve manipülasyondan korumak gerekir: bir askeri robot yetkisiz silah kullanma girişimlerini kaçırmamalıdır;
"Doğru sistemi kurdum mu?"
Sistemin davranışının öngörülebilir olduğundan ve istenmeyen sonuçlara yol açmadığından emin olmanız gerekir: "kiri çıkarın ve atın" komutundaki temizlik robotu, kiri tek bir yerde çıkarıp atarak sonsuz bir döngüye girmemelidir, bu nedenle başka bir komut vermek daha iyidir - "zemini temizle" deyin;
"Sistemin yaratıcısının yaptığı hataları düzeltmek mümkün mü?"
Yapay zekayı kontrol etme yeteneğini bir kişiye bırakmak gerekir: Olayların beklenmedik bir şekilde gelişmesi durumunda kurtarma robotunun manuel kontrol moduna sahip olması gerekir.
Tüm bu güvenlik açıkları gerçek ve bu nedenle, dost canlısı bir yapay zeka yaratılmasını savunan Eliezer Yudkovsky gibi uzmanların korkuları haklı. Yudkowsky, demokrasilerdeki farklı hükümet dalları gibi, robotların koddaki hataları atlamasına, geliştirmesine ve insanlara zarar vermemesine izin verecek bir kontrol ve denge sistemi icat etmeyi öneriyor. Şimdiye kadar, bu sistemin neye dayanarak inşa edileceği çok net değil: insanların ahlakı kusurlu, savaşlar ve soykırım hiçbir yerde ortadan kalkmadı. Ek olarak, tek bir devletin vatandaşları, güçlü yapay zekaya sahip olan kötü adamlardan muzdarip olabilir: örneğin, içinde tüm vatandaşları 24 saat dinleyerek Orwell ölçeğinde bir gözetleme düzenlenecektir.
Yapay zeka zenginleştiriyor
insanları köleleştirmeyin
"İnsanların süper zeki robotlar tarafından köleleştirildiği veya yok edildiği bir dünya, kendilerinin yarattığı, ancak bilim kurguda var olabilir. Diğer herhangi bir teknoloji gibi, yapay zekanın da güçlü ve zayıf yönleri vardır, ancak korkunun bu alandaki araştırmaları ele geçirmesine ve engellemesine izin veremeyiz, ”diye yazıyor WordsSideKick.com web sitesinde bir robot uzmanı olan Michael Littman. Pek çok yayın, bağlamından koparılan birkaç cümleden yola çıkarak The Future of Life Enstitüsü'nden gelen mektubu yanlış anlayarak, bilim adamlarının bir robot ayaklanmasından ciddi şekilde korktuklarını öne sürdü.
Ancak durum farklı: Stephen Hawking ve Elon Musk, yapay zekaya dikkat çekilmesi, robotik ve makine ahlakının kamuoyunda marjinal olmaktan çıkması, insanların teknolojilerin güvenliğini düşünmesi ve gerçek sorunlara odaklanması için bir temyiz imzaladı. Küresel ısınma, gıda ve enerji krizleri, aşırı nüfus ve nüfusun yaşlanması, yaygın durgunluk ve işsizlikte keskin bir artış - tüm bunlar, yaratıcılarını yok etmeye karar veren akıllı makinelerden gerçeğe çok daha yakın. Yapay zeka bunları çözmeye yardımcı olacaktır.
En iyi beyinler susmaz, paranoyak olmaktan korkar ve açıkça söyler yöneten yasalar hakkında ne düşünmeli? yapay zeka, ayrıca yaklaşık robot etiği Ve makine ahlakışu an lazım
Ek olarak, makine ahlakını incelemek insanların düşünmesine yardımcı olacaktır. kişinin kendi etiği üzerinde, içindeki çelişkileri aramak ve ortadan kaldırmak. Hemşirelik, doktorluk, yargıçlık ve polislik gibi işlerin robotlara emanet edilip edilemeyeceğini görmek için empatinin nasıl çalıştığını daha iyi anlamamız gerekecek. Her iki tarafta da ağır argümanlar varken. Empati tüm bu meslekler için zorunlu bir özellik olsa da, aynı robot hakimler gerçekten tarafsız hale gelebilir ve bazı durumlarda ayrımcılığı ortadan kaldırabilir, gelecekte bu bir jüri yargılaması gibi yeni bir kurumdur. Ve huzurevlerinde yaşlılara göz kulak olan robotlar zaten test ediliyor ve insanlar onlarla kolayca duygusal bir bağ kuruyor. Ne olursa olsun, düzeltmeler için zaman var: tüm teknolojiler birer birer tanıtılıyor.
Robotlar ve insanlar arasındaki yüzleşmeye ek olarak, çok daha çekici senaryolar var - örneğin, barış içinde bir arada yaşama. Fütüristlerin öngördüğü teknolojik tekillikten önce insanlar, avantajlarını makinelerin avantajlarıyla birleştirerek doğrudan yapay zekaya nasıl bağlanacağını çözebiliyorlardı. Amerikalı mikrobiyolog Joan Slonchevski ise, insanların bir zamanlar tek tek bakteriler olan, ancak evrim sürecinde daha karmaşık organizmalardaki hücrelerin enerji istasyonları haline gelen mitokondri yolunu takip edebileceklerini öne sürüyor. Bu hizalanmaya farklı şekillerde bakabilirsiniz, ancak insan evrimi devam edecek ve bilim adamlarının yaptığı son araştırmalar, onu en baştan yeniden başlatsaydık, evrimin büyük olasılıkla aynı yolda gelişeceğini ve yaklaşık olarak aynı memelilerin bugün Dünya'da yaşayacağını gösteriyor. En iyi beyinlerin paranoyaklaşmaktan korkarak bu konuda sessiz kalmaması ve yapay zekayı yöneten yasaların yanı sıra robotik etiği ve makine ahlakını şu anda düşünmek gerektiğini açıkça söylemesi cesaret verici.
Stephen Hawking, yapay zekanın insanlar için bir tehdit olduğu konusunda uyarıyor. İnsan eliyle yaratılan yapay zeka, insan uygarlığıyla rekabet eden en büyük felakete(!) dönüşebilir.
Yapay zeka, geleceğin robotları insanın bel kemiğidir
Elektronik zeka, kendi makine medeniyetini yaratabilir ve böylece insanlık için en ciddi tehditlerden biri haline gelebilir.
Tehlike tahmini, (evrenin dünyasını keşfeden) ünlü fizikçi Stephen Hawking'den geliyor. Zamanımız için bu elbette potansiyel bir tehdit ama geleceğin "güzel bir gününde" yapay zeka "kendi iradesini" geliştirebilir. Şimdi bu konuyu ciddi bir şekilde düşünmenin zamanı geldi.
Fizikçi bir kez daha uyarıda bulundu: yapay zeka mükemmel bir düşünce yapısına dönüşebilir. O kadar karmaşık ve zeki ki, insanlığın planlarıyla çelişebilecek, kendi iradesine göre dünyayı anlama ve büyütme yeteneğinde ustalaşacak.
Bu, güçlü silahların ortaya çıkmasına yol açabilir, insanlık tarafından kontrol edilen bölgelerin kaybına neden olabilir. — Profesör Hawking, araştırmacıları yapay zekanın davranışı sorununu ve gelecekteki olasılıklarını dikkatlice incelemeye çağırıyor.
Profesör Hawking'in yapay zeka fikrini olumsuz bir alanda reddetmediğini söylemeliyim. Bilim adamı, ödevimizi yaparsak ve yeterince araştırma yaparsak yapabileceğimize dikkat çekiyor.
Fizikçi, AI gibi bir asistanla daha iyi bir yaşam biçimine gelebileceğimizi söylüyor. Yapay zeka, insanlığın hastalığı ve yoksulluğu ortadan kaldırmasına yardımcı olabilir.
The Leverhulme'un açılışında konuşan Profesör Hawking, makine zekasının hem yararlılığına hem de olumsuz yönlerine değindi. Merkez, zekanın geleceği için tasarlandı, araştırma yapmak ve yapay zekanın hızlı gelişiminin sonuçlarını incelemek için tasarlandı.
Unutulmamalıdır ki Stephen Hawking için 100 yıl göz açıp kapayıncaya kadardır. Aslında, birisi 2135'ten bir işlemci getirmedikçe, akıllı yapay zeka önümüzdeki yüz yılın meselesi bile değil.
Leverulm Yapay Zekanın Geleceği Merkezi, Birleşik Krallık ve Amerika Birleşik Devletleri'ndeki çeşitli üniversiteler arasındaki işbirliklerini bir araya getirecek. Fikir, disiplinler arası bir araştırma topluluğu yaratmaktır.
Bilim adamlarından oluşan ekip, diğer şeylerin yanı sıra yapay zekanın kısa ve uzun vadeli risklerini ve faydalarını belirlemeye çalışmak için iş dünyası ve hükümetle yakın bir şekilde çalışmayı planlıyor. Huw Fiyat Merkezi müdürü, akıllı makinelerin yaratılmasının insanlık için önemli bir aşama olduğunu ve merkezin "geleceği en iyi" yapmaya çalışacağını garanti etti.
Araştırmanın genişliğine ek olarak Merkez, robotlar gibi akıllı makinelerin hızlı gelişiminin sonuçlarını analiz edecek. Robotlar, günlük hayatın sorunlarına çözümler sunarak insanlık için riskler ve etik ikilemler yaratmaktadır. Elektroniğe güvenmeyen birçok insan yapay zekadan korkar, ayrıca dijital zihin insanı aşabilir ve bir insanın hayatını kontrol edebilir.
Biyolojik bir beyinle elde edilebilecekler ile bir bilgisayarla elde edilebilecekler arasında derin bir fark olmadığına inanıyorum. Dolayısıyla, teorik olarak bilgisayarlar insan zekasını taklit edebilir - onu geçebilir. Hawking.
Profesör Hawking, AI'nın hayatımıza dahil olmasının potansiyel faydalarının harika olduğuna inanıyor. Böyle bir teknolojik devrim, insanlığın gezegene verdiği zararın bir kısmını geri almasına yardımcı olabilir. Profesör Hawking, "Yapay zekanın yaratılmasındaki başarı, uygarlık tarihindeki en büyük olay olabilir" dedi.
Ancak, risklerden nasıl kaçınacağımızı öğrenmezsek, insanlık tarihindeki son adım da olabilir, çünkü yapay zeka faydaların yanı sıra tehlikeler de sunabilir: güçlü silahlar, azınlığın çoğunluğa baskı yapması için yeni yollar. Sonunda bu, demir cisimlerin biyolojik cisimlere hakim olmasıyla sonuçlanabilir ve gelecekte büyük felaketlere neden olabilir.
Ya AI ve biz davranışsal seçimleri başlatma yeteneğine sahip zihinden bahsediyoruz, bir kişinin yaşam yönleriyle çatışırsa? Ne de olsa, mutfakta itaatkâr bir demir asistan, koşulların diktatörü olarak yeniden eğitilebilir!
“Güçlü yapay zekanın gelişimi, insanlığın başına gelebilecek en iyi ya da en kötü şey olacak. Geleceğin ne getireceğini bilmiyoruz, diyor Profesör Hawking. Bu nedenle 2014 yılında ben ve birçok kişi bu alanda daha fazla araştırma yapılması çağrısında bulunduk. Merkezin açılışında Profesör Hawking, birinin beni duymasına çok sevindim, dedi.
Kısa bir süre önce, Amerikalı girişimci Elon Musk ve fizikçi Stephen Hawking açık bir mektupta yapay zeka (AI) geliştiricilerini kontrol edilemeyecek bir şey yaratmamaya çağırdılar. Yapay zekanın oluşturduğu tehdidin nükleer silahlardan çok daha tehlikeli olabileceğine inanıyorlar.
Rakip
Mart 2016'da DeepMind tarafından geliştirilen AlphaGo Bilgisayar, antik Çin masa oyunu Go'nun beş oyununda bu disiplinin en güçlülerinden biri olan Koreli Lee Sedol'u yendi. Bu, 1997'de Deep Blue bilgisayarının Garry Kasparov'a karşı kazandığı zaferden ileriye doğru atılmış büyük bir adım çünkü satrancın 35 olası hamlesi varsa, o zaman Go'da yaklaşık 250 hamle vardır.
Bilgisayar sadece 4. oyunda, Sedol'ün AlphaGo'nun 10.000'de 1 olarak tahmin ettiği standart dışı bir hamle yaptığında kaybetti, ancak 5. oyunda bu hata dikkate alındı. Amerikan Go Derneği başkanı Andrew Okan biraz sinirlendi çünkü bu oyunda makinenin insanlara karşı en geç birkaç on yıl içinde avantajlar elde edeceğine inanıyordu.
korkutucu hız
Bilim adamları, AI'nın neredeyse bir insanla aynı ölçüde kendi kendine öğrenebildiği gerçeğiyle zaten karşı karşıyalar. Yapay beynin çalışması, insan beyni gibi, makinenin biriktirdiği deneyimin bir sonucu olarak geliştirilen çok sayıda nöral bağlantıya dayanır. Yapay zekanın performansının insan beyninden çok daha yüksek olduğu göz önüne alındığında, robotun öğrenme süreci çok daha hızlı ilerleyecektir.
Böylece, 2014'te bir süper bilgisayar, çözümü o kadar karmaşık olan ve bir kişinin kontrol edemediği Erdős matematik problemlerinden birini çözmeyi başardı - denklem içeren bir dosya 13 gigabayt alır. Açıkçası, yapay zeka entelektüel çalışma açısından insanları çoktan geride bıraktı ve uzmanlara göre 2030'dan sonra yapay zeka genel bilinç düzeyi açısından bizi geçecek.
nasıl anlaşılır?
Yapay zeka sorunuyla ilgilenen Amerikalı blog yazarı Tim Urban, yapay zeka bir insandan daha akıllı hale geldikçe onu anlama şansımızın giderek daha az olacağını fark etti. Ne dediğini açıklayarak bir misal veriyor. Bir şempanze, bir insanın ne olduğunu ve bir gökdelenin ne olduğunu anlayabilir, ancak bir primat, bir gökdelenin insanlar tarafından inşa edildiğini asla anlayamaz.
Aynı şekilde, yapay zekanın olanaklarını, makine bize açıklamaya çalışsa bile -bırakın kendimiz yapmaya çalışmayı- asla anlayamayacağız. Urban, bir bilgisayarın bize bildikleri hakkında en basit fikirleri öğretmeye çalışmak için yıllarını harcayabilir ve bunun umutsuz olacağı sonucuna varır.
Kovuldun!
Öngörülebilir gelecekte kitlesel işsizlik bizi bekliyor, fütürologlar bundan emin. Ve kendini vazgeçilmez görenler bile. Bu sadece fiziksel veya zihinsel çalışma için değil, aynı zamanda yaratıcı aktivite için de geçerlidir. Makineler zaten müzik yapıyor ve makaleler yazıyor. Amerikan Rice Üniversitesi'nden Profesör Moshe Vardy, çoğu işin 30 yıl içinde robotlar tarafından alınacağına inanıyor.
Bazı bilim adamları, teknolojik işsizlik, insanların zorunluluktan değil, zevk için çalışacakları bir geleceğin kapısını açacağından, bunda yanlış bir şey olmadığına inanıyor. Aslında bazı Batılı ülkelerin hükümetleri şimdiden bu yönde adımlar atıyor, özellikle evrensel bir temel gelir getirmek için deneyler yapılıyor.
kendi kendini idame ettiren
AI gelişiminin hızı göz önüne alındığında, akıllı makineler yakında insanlar olmadan da yapabilecekler. Örneğin, Fransız Pierre ve Marie Curie Üniversitesi'nden bir robotik ekibi, uzuvlardan birinin bozulması veya kaybı durumunda hareket şeklini bağımsız olarak değiştirebilen yüksek teknolojili bir örümcek makinesi yarattı. Arızayı fark etmek ve yeni hareket etme yollarını test etmek yaklaşık 20 dakika sürer.
Çok yakın bir gelecekte robotlar, kırılan veya aşınmış parçaları bağımsız olarak değiştirmeyi öğrenecekler. Bilim adamlarına göre bu tür makinelerin beklentileri gerçekten sınırsız. Doğal veya insan kaynaklı felaketlerin yanı sıra okyanus derinliklerini ve uzak uzayı incelemek için kullanılabilirler.
Neredeyse bir insan gibi
2017'nin başlarında Boston Dynamics, ordu tulumlarını test etmek için kullanılan yeni bir insansı robot PETMAN'ı gösterdi. PETMAN, insan fizyolojisini taklit eder, tıpkı bir insan gibi hareket eder ve dengeler. Ayrıca makine, "vücudun" sıcaklığını ve nemini düzenleyerek test koşullarını doğal koşullara yaklaştırır.
Boston Dynamics'in bir başka geliştirmesi olan Atlas robotu, daha karmaşık görevleri çözebilir: kapıları açmak, zorlu arazilerde hareket etmek ve hatta dikey engelleri aşmak. Makine bir insandan çok daha güçlü ve 100 kilogramın üzerindeki yükleri taşıyabiliyor. Geliştiricilerin yeni robotların içlerine korku aşıladığını söylemelerine şaşmamalı.
İki yol
Bilim adamlarına göre, AI'nın yoğun gelişimi ile insanlığın gelecek için iki seçeneği var: 21. yüzyılın sonunda ya dünya yüzünden yok olabiliriz ya da ölümsüz olabiliriz. Kötümserler, yoldaki en ufak bir hatanın insan ırkının hızla yok olmasına yol açacağından endişelenirler. Örneğin, iklim değişikliği ile ilgili sorunları çözmek için programlanmış bir yapay zeka, çalışmasındaki ana engelin insanlar olduğunu belirleyecek ve bu tehdidi ortadan kaldırmak için tüm robotik araç cephaneliğini kullanacaktır.
Yapay zekadan korunmak veya saklanmak neredeyse imkansız olacak. Böylece, şu anda en güçlü süper bilgisayarlardan biri olan Nautilus, Bin Ladin'in nerede saklanacağını öngörebildiği gibi, "Arap Baharı"nın başlangıcını da tahmin edebildi.
İyimserler, süper zekanın tüm acil günlük sorunlarımızı çözebileceğinden emindir. AI sadece hayatımızın konforunu ve güvenliğini sağlamakla kalmayacak, aynı zamanda temel ve uygulamalı bilim alanlarını geliştirmek için bir kişiden çok daha yoğun olacaktır. Ve ondan beklenen ilk şey, insan vücudunu ölümsüz kılan ilaçların geliştirilmesidir.
Yükleniyor...
