Günümüzde insanlık, robotik ve insansız araçlar alanındaki ilerlemeler, akıllı ev aletlerinin yaygınlaşması vb. ile karakterize edilen dördüncü sanayi devrimini yaşamaktadır. Ve “geri kalanların ilerisinde” olan yapay zeka (AI), zeka açısından insanlarla yarışabilecek, hatta onları aşabilecek otomatik bilgisayar sistemlerinin geliştirilmesi. Yapay zeka bir sonraki küresel teknoloji olarak kabul ediliyor; o kadar küresel ki gelecekteki teknolojiler ona bağlı olacak. Ancak yapay zekayla her şey o kadar da pürüzsüz değil; önemli endişelerin olduğu çok tartışmalı konular var.
1. Sürücüsüz bir araba, sürücüyü öldürecek şekilde programlanabilir.
Bir kişinin yol boyunca araba kullandığını varsayalım. Sonra birdenbire bir çocuk arabanın önündeki yola atlıyor. Sürücü frene basıyor ama çalışmıyor. O zaman iki seçeneği var: ya çocuğu yere düşürün ya da bir direğe yuvarlanarak düşerek ölsün. Çoğu insan kesin ölüme kadar bir sütuna yuvarlanmayı tercih edecekleri konusunda hemfikirdir. Ancak artık arabanın insansız olduğunu ve kişinin yolcu olarak araba kullandığını hayal etmekte fayda var. Arabanın kendi başına direğe çarpıp onu öldürmesini mi isterdi?Bir çocuğun hayatını kurtarırken kendi kendine çarpmaya razı olduklarını kabul eden çoğu kişi, arabanın direğe çarpıp onu öldürmesini istemediklerini söyledi. sahip olmak, onları öldürmek. Üstelik böyle bir arabanın kendilerini kaza yapma riskiyle karşı karşıya bırakacağını bilseler dahi almayacaklarını iddia ediyorlar. Bu mantıklı bir soruya yol açıyor: Makine ne yapmalı ve nasıl programlanmalı? En ilginç olanı ise sürücüsüz araç üreticilerinin bu soruyu yanıtlamaktan kaçınması.
2. Robotlar insanlarla eşit haklar talep edebilir
Yapay zekadaki mevcut eğilimlerle birlikte robotların öz farkındalık aşamasına ulaşması oldukça olası. Bu gerçekleştiğinde insanlarla eşit haklar talep edebilirler. Yani barınma ve sağlık hizmetlerine ihtiyaç duyacaklar, aynı zamanda oy vermelerine, askerlik yapmalarına ve vatandaş olmalarına da izin verilmesini talep edecekler. Benzer sonuçlar, Birleşik Krallık Bilim ve Yenilik Ofisi'nin Ufuk Tarama Merkezi'nin bir sonucu olarak, yapay zekanın çok daha az gelişmiş olduğu 2006 yılında yayınlanmıştı. Makinelerin 50 yıl (yani 40 yıl) içinde öz farkındalık düzeyine ulaşması bekleniyordu.
3. Otomatik öldürücü robotlar
“Otomatik katil robotlar” ifadesi genellikle insan müdahalesi olmadan öldürebilen robotları ifade eder. Bu, drone'ları hesaba katmıyor çünkü onlar insanlar tarafından kontrol ediliyor. Şu anda hakkında konuşulan otomatik katil robotlardan biri, Samsung Techwin (şimdi Hanwha Techwin) ve Kore Üniversitesi tarafından geliştirilen bir nöbetçi taret olan SGR-A1'dir. SGR-A1, hedefine otomatik olarak ateş açabilen güçlü bir makineli tüfekle donatılmış olması dışında devasa bir güvenlik kamerasını andırıyor. SGR-A1 halihazırda İsrail ve Kuzey Kore ile askerden arındırılmış bölge (DMZ) boyunca çok sayıda taret kuran Güney Kore tarafından kullanılıyor. Ancak Güney Kore, makinenin kimi öldürüp kimi öldürmeyeceğine kendisinin karar vermesine olanak tanıyan otomatik modun etkinleştirildiğini reddediyor. Bunun yerine taretler, hedefleri tespit ettikleri ve ateş etmeden önce bir insan operatörün onayına ihtiyaç duydukları yarı otomatik moddadır.
4. Askeri robotlar taraf değiştirebilir
2011 yılında İran, sağlam durumdaki bir Amerikan RQ-170 Sentinel insansız hayalet uçağını ele geçirmişti. Ancak drone düşürülmedi - İran, GPS sinyalini taklit ederek (dost bölgede olduğunu "düşünmesini" sağlayarak) uçağın "yere indirildiğini" iddia ediyor. Drone'lar, GPS ve robotların hepsi bilgisayarlara dayalıdır ve herkesin bildiği gibi bilgisayarlar hacklenebilir. Askeri robotlar savaş alanında kullanılırsa farklı olmayacak. Aslında düşman ordusunun robotları hacklemeye ve onları "efendiye" karşı kullanmaya çalışması ihtimali de var. Otonom katil robotlar henüz yaygın olarak kullanılmadığı için bunların hacklendiğine dair henüz bir örnek yok. Ancak bir robot ordusu aniden efendilerine karşı gelirse ne olacağını hayal edin.
5. Twitter'da propaganda yayan botlar
Botlar Twitter'ı ele geçiriyor. Güney Kaliforniya Üniversitesi ve Indiana Üniversitesi'nin araştırmaları, tüm Twitter hesaplarının yaklaşık %15'inin (48 milyon) botlar tarafından yönetildiğini ortaya çıkardı (ancak Twitter bu rakamın yaklaşık yüzde 8,5 olduğu konusunda ısrar ediyor). Açık olmak gerekirse, bu botların hepsi kötü değil. Bazıları gerçekten faydalıdır. Mesela doğal afetler hakkında insanları bilgilendiren botlar var. Ancak propaganda amacıyla kullanılanlar da var. Örnekler arasında seçmenleri 2016 seçimleri sırasında Donald Trump'a oy vermeye teşvik eden botlar ve Birleşik Krallık seçmenlerini 2016 Brexit referandumu sırasında Avrupa Birliği'nden ayrılma yönünde oy kullanmaya teşvik eden botlar yer alıyor.
6. Makineler insanların işlerini devralacak.
Hiç şüphe yok ki, bir gün insanların bugün yaptığı işlerin çoğunu makineler yapacak. Ancak bunun ne zaman ve ne ölçüde olacağını kimse bilmiyor. Önde gelen danışmanlık ve muhasebe firması PricewaterhouseCoopers'a (PwC) göre robotlar, 2030 yılında Japonya'daki işlerin yüzde 21'ini, İngiltere'deki işlerin yüzde 30'unu, Almanya'daki işlerin yüzde 35'ini ve Amerika Birleşik Devletleri'ndeki işlerin yüzde 38'ini devralacak. Ve gelecek yüzyılda insanların erişebileceği işlerin yarısından fazlasını işgal edecekler. Bu durumdan en çok etkilenen sektör, işgücünün yüzde 56'sının makinelerden oluşacağı nakliye ve depolama olacak. Bunu, makinelerin mevcut tüm boş pozisyonların %46 ve %44'ünden fazlasını kaplayacağı imalat ve perakende sektörleri takip ediyor. “Ne zaman olacak” derken, makinelerin 2027 yılına kadar kamyonlarda, 2031 yılında ise perakende mağazalarda çalışacağı tahmin ediliyor. 2049'da kitap yazıyor, 2053'te operasyon yapıyor olacaklar. Yalnızca birkaç meslek, makinelerin istilasından "zarar görmeyecek". Bir örnek, bir rahibin boşluğudur.
7. Robotlar yalan söylemeyi öğrendi
Yaratıcıları gibi robotlar da aldatmayı öğrenir. Atlanta'daki Georgia Teknoloji Enstitüsü'ndeki araştırmacılar, yapılan bir deneyde, robotların diğer insanları mı yoksa robotları mı kandıracağına karar vermesine olanak tanıyan bir algoritma geliştirdi. Robotlar aldatma yoluna gitmeye karar verirse araştırmacılar, robotun hem insanları hem de robotları nasıl aldatacağına karar vermesine olanak tanıyan bir algoritma eklediler ve bu da kişinin veya robotun aldatmayı öğrenme olasılığını azalttı. Deneyin başarılı olduğu dışında ayrıntılı sonuçları hakkında herhangi bir bilgi mevcut değildi. Bu deney ABD Deniz Araştırmaları Ofisi tarafından düzenlendi; bu da potansiyel olarak yalan söyleyen robotların askeri amaçlarla kullanılabileceği anlamına geliyor.
8. Yapay zeka pazarı tekelleştirildi
Yapay zeka pazarı tekelleşiyor. Büyük şirketler endişe verici bir hızla küçük yapay zeka girişimlerini satın alıyor. Mevcut trendlerde yapay zeka çok az sayıda şirket tarafından tamamlanacak. Ekim 2016 itibarıyla raporlar, Apple, Facebook, Intel, Twitter, Samsung ve Google gibi büyük şirketlerin son beş yılda 140 yapay zeka işletmesini satın aldığını gösteriyor. 2017'nin ilk üç ayında büyük teknoloji şirketleri 34 yapay zeka start-up'ı satın aldı. Daha da kötüsü, en iyi yapay zeka bilim adamlarını işe almak için büyük miktarlarda para da ödüyorlar.
9. Yapay zeka, zeka açısından insanları geride bırakacak
Yapay zeka iki gruba ayrılır: güçlü ve zayıf yapay zeka. Bugün var olan yapay zeka, zayıf yapay zeka olarak sınıflandırılıyor. Bu, "akıllı asistanları" ve 1987'den bu yana satranç büyükustalarını yenen bilgisayarları içeriyor. Güçlü ve zayıf yapay zeka arasındaki fark, insan beyni gibi akıl yürütme ve davranma yeteneğidir. Zayıf yapay zeka genellikle yapmaya programlandığı şeyi yaparken, güçlü yapay zeka bilinçlidir ve bir insan gibi düşünme yeteneğine sahiptir. Programının kapsamıyla sınırlı değildir ve insan müdahalesi olmadan ne yapıp ne yapmayacağına kendisi karar verebilir. Şu anda güçlü bir yapay zeka mevcut değil ancak bilim insanları bunun yaklaşık on yıl içinde ortaya çıkacağını öngörüyor.
10. Yapay zeka insanları yok edebilir
Tıpkı “Terminatör” filminde olduğu gibi kıyametin dünyaya gelebileceğine dair korkular var. Yapay zekanın insanları yok edebileceğine dair uyarılar koltukta oturan analistlerden veya komplo teorisyenlerinden değil, Stephen Hawking, Elon Musk ve Bill Gates gibi önde gelen profesyonellerden geliyor. Bill Gates yapay zekanın insanların kontrolü altında kalamayacak kadar akıllı olacağına inanıyor. Stephen Hawking de benzer bir görüşü paylaşıyor. Yapay zekanın birdenbire bir "kan banyosuna" neden olacağını düşünmüyor. Aksine, makinelerin yaptıkları işte fazla yetkinleşerek insanları yok edeceğine inanıyor. İnsanlar ve yapay zeka arasındaki çatışma, amacının artık bizimkiyle örtüşmediği andan itibaren başlayacak. Elon Musk, yapay zekanın yayılmasını "şeytanların çağrılmasına" benzetiyor. Bunun insanlık için en büyük tehdit olduğuna inanıyor. Kıyameti ve insanlığın yok olmasını önlemek için, hükümetlerin ticari şirketler "gerçekten aptalca bir şey yapmadan" önce yapay zekanın gelişimini düzenlemeye başlamasını önerdi.
Bu arada Ilona'nın mühendislerinin başarıları hakkında. Daha yakın zamanlarda, bu tür arabaların çok yakında sıradan arabaların yerini içten yanmalı bir motorla değiştireceği kanıtlandı.
İnsanlar, insanlarla aynı tepkileri verebilen makinelerle, mantıksal ve stratejik sorunları kolayca çözen, insan mantığını taklit eden bilgisayarlarla karşı karşıya kaldıklarında, insan ırkının çoğu temsilcisi rahatsız oluyor. Çok yakın gelecekte insanlığın üstünlüğünü kaybedeceği ve robotların boyunduruğu altına gireceği düşüncesi giderek yaygınlaşıyor.
Sinematik fanteziler
Her şakada bildiğiniz gibi esprinin sadece bir kısmı vardır, gerisi acı gerçektir ve endişe kaynağıdır. Pek çok bilim kurgu filmi, gelişiminde yaratıcılarını geride bırakmayı başaran ve sonuçta insanlığı köleleştiren veya insanların yok olması için koşullar yaratan yapay zeka konusu üzerinde uzun süredir spekülasyonlar yapıyor.
Filmlerde insan ve makine arasındaki çatışmalar her yönden gelişir - bir savaş cephesi oluşur veya tüm canlıların gizli bir yıkımı vardır, bunun nedenleri insani açıdan mevcut değildir.
Agresif yapay zekanın canlı görüntüsü ilk kez Skynet projesi biçiminde “Terminatör” filminde gösterildi. Beş film boyunca destanın yazarları, insanlık için neyin daha büyük tehlike oluşturduğunu anlamaya çalışıyorlar: kişisel farkındalık kazanmış bir makine mi, yoksa makinenin gücünü kendi amaçları için kullanan insanlar mı?
Uyarı Maskesi
Bu tür resimler, özellikle bilim dünyasının önde gelen temsilcilerinin bunu desteklemesi ve ağırlaştırması durumunda, herhangi bir ortalama insan için korku hikayelerine dönüşür. Son yıllarda bilim insanları yapay zekanın neler yapabileceğini anlamanın sınırlarını zorladı. Kamuoyunun güveni yüksek olan pek çok uzman, Homo Sapiens'i bekleyen tehlikeler ve makine zekasının daha da gelişmesinin getirebileceği potansiyel tehditler hakkında yüksek sesle açıklamalarda bulundu.
Üstelik pek çok bilim insanı, tehdidin yalnızca insanların üzerinde belirmekle kalmayıp, halihazırda bir gerçeklik haline geldiğine ve süreci durdurmanın neredeyse imkansız olduğuna inanıyor. Elon Musk bunun halihazırda gerçekleştiğinden emin.
Temmuz 2017'de Ulusal Valiler Birliği'nin bir toplantısında çok gelişmiş yapay zekaları gözlemlediğini ve ona göre insanların korkacak bir şeyleri olduğunu söyledi. Bu konudaki anlamsızlığın feci sonuçlara yol açabileceğini açıkladı. Musk ayrıca insanların ancak yapay zekânın "yeni ölümsüz Hitler" haline geldiği anda aklının başına geleceğine inanıyor.
Hawking'in korkuları
Zaten dünyayı terk etmiş olan fizikçi Stephen Hawking de yapay zekanın günlük hayata aktif olarak girmesiyle ilgili endişelerini dile getirerek bunun insan ırkına yıkım getireceğini öne sürdü.
Korkularını, gelişen teknolojilerin insanlığın bozulmasına yol açacağı gerçeğiyle ilişkilendirdi. Yapay zekanın aktif olarak uygulanması, insanı doğanın güçleri karşısında çaresiz bırakabilir ve bu, evrim ve tür mücadelesi koşullarında Homo Sapiens'in ölümüne yol açacaktır.
İnsanlar yapay zekaya kötü olmayı öğretebilir
Massachusetts Cambridge Üniversitesi'ndeki MIT Medya Laboratuvarı'ndaki bir ekip, Kabus Makinesi adı verilen bir sinir ağı oluşturdu. 2016 yılında başlatılan proje, sıradan dijital fotoğrafları, insanlığın olası geleceğine dair dehşet verici görüntülere dönüştürdü.
Bir başka yapay zekaya ise “Shelley” adı verildi; yaratıcılar, korku türünde edebiyat alanında kendi kendine öğrenme yeteneğini programa dahil ettiler. Makine 140 bin korku hikâyesini ve masalını analiz etti ve artık her gün yeni bir eser ortaya çıkarıyor. Deney bugün de devam ediyor, "Shelley'in" hikayeleri internet platformlarından birinde yayınlanıyor.
Üstelik kullanıcılar hikayenin başlangıcını yazarak yapay zekanın geliştirilmesine katılabiliyor; ertesi gün "yazar" olay örgüsünün gelişiminin kendi versiyonunu yayınlayacak. Yazılan tüm terabaytlar Shelley'nin hafızasında depolanır ve analiz edilir, bu da "edebi" deneyimlerin çeşitliliğini artırır, böylece makine kendi kendine öğrenir.
Geliştirme, kontrol ve çerçeve
Yapay zekanın gelişmesi nedeniyle tüm bilim insanları endişelerini paylaşmıyor ve dünyayı kıyamet tonlarında görmüyor. Cornell Üniversitesi Bilgisayar Bilimleri Doçenti Kilian Weinberger, sorunun uzak ihtimal olduğuna inanıyor. Bilim adamı, çatışmanın meydana gelmesinin nedenlerini isimlendiriyor. Bilinmeyene karşı iki tür insan korkusu vardır. İlk korku, yapay zekanın bilinçlenip yaratıcısını ve ana rakibini yok etmesidir. İkinci korku ise daha gerçektir ve insan doğası anlayışına dayanmaktadır; ahlaksız insanlar akıllı makineleri kişisel amaçlar için kullanacaklardır.
Bilim insanı, yapay zekanın bilinç geliştirip insanlığı devirmekle meşgul olacağı korkusunun, yapay zekanın ne olduğuna dair yanlış anlaşılmadan kaynaklandığına inanıyor. Herhangi bir makine, davranışını belirleyen açık bir algoritmaya göre çok sayıda kısıtlamayla programlanır ve çalışır. Yani herhangi bir yapay zeka, manipülasyonları ve entelektüel oyunları yalnızca tanımlanmış sınırlar dahilinde gerçekleştirir.
Bir makine edebi hikayeler yazıyorsa, o zaman bir kişi tarafından uygun bir program konulmadan, "A" noktasından "B" noktasına giden arabanın kilometresini hesaplayamayacaktır. Ayrıca, uygun destek olmadan teknoloji, ister buğday ekiyor, ister bir örümceği ortadan kaldırıyor olsun, bir şeyi yok etmek veya yaratmak için bir algoritmayı "anlayamaz" veya oluşturamaz. Weinsberg, öngörülebilir gelecekte makinelerin insanlarla aynı bilinci geliştirmesi için hiçbir önkoşulun olmayacağına inanıyor.
İnsan faktörü
Daha gerçek bir tehdit ise yapay zekanın hiçbir ahlak ve etik değerleri olmayan, ancak tamamen kendi hedeflerine ulaşma fikriyle meşgul olan insanların eline geçmesi ihtimalidir. Bu sorunu araştırmaya derinlemesine daldığınızda, bunun tüm insanlık ölçeğinde gerçekten dehşet verici olduğu ortaya çıkıyor. Üstelik bunu anlamak için felsefi konuları düşünmenize gerek yok. Dünya hakimiyeti için çabalayan herhangi bir gücün Silahlı Kuvvetler Bakanlığını hatırlamak yeterlidir.
Herhangi bir araç, onu kullanmaya karar veren kişilerin niyetlerine bağlı olarak iyi veya zarar verici bir şekilde kullanılabilir. Bıçak, avlanmak ve barışçıl amaçlarla kullanılmak üzere yaratılmıştır, ancak gelişmesi ve biçimlerinin çeşitliliği büyük ölçüde şiddete yatkın insanlardan kaynaklanmaktadır.
İnsanlar hâlâ yapay zekadan korkuyor, kendilerinin onun yaratıcıları ve ana düzenleyicileri olduklarını tam olarak anlamıyorlar. Faaliyetlerinin sonucu doğrudan ruhsuz bir makineye hangi programın yerleştirildiğine bağlıdır.
İyiyi gör
Weinsberg, aşırı korkuları bir kenara bırakırsak yapay zekanın insan hayatını önemli ölçüde kolaylaştırabileceğine, daha güvenli ve konforlu hale getirebileceğine inanıyor. Makinelerin avantajları tıpta kullanılabilir; örneğin bir bilgisayar, bir köstebeği inceledikten sonra oluşumun malignitesini anında değerlendirecektir. Sürücüsüz otomobiller, gezegen genelinde milyonlarca kişinin hayatına mal olan trafik kazaları sorununu tamamen ortadan kaldırma potansiyeline sahip.
Günümüzde çoğu insan yapay zekanın doğasını anlayamıyor ve bilinmeyen her şey insanı büyük bir güçle korkutuyor, onu yanlış sonuçlara ve eylemlere zorluyor. Devam eden çatışma oldukça uzun bir süre devam edecek, ancak aynı zamanda bilim adamları yapay zekayı geliştirmeye devam edecek. Belki bir noktada anlaşmazlık sona erecek, ancak bu, insanların heyecan verici bir konu hakkında spekülasyon yapmayı bırakıp basit sorulara kapsamlı yanıtlar verme gücünü buldukları anda yapılacaktır.
Yapay zeka zaten bir şekilde geleceğinizi belirlemenize yardımcı oluyor. Bir arama motorunda bir şey aradığınızda Netflix gibi bir hizmet kullanın, aksi takdirde banka ipoteğe uygunluğunuzu değerlendirir. Peki yapay zeka mahkemede suçlu olup olmadığınızı belirlemek zorunda kalırsa ne olur? Garip bir şekilde, bu bazı ülkelerde zaten oluyor olabilir. ABD Yüksek Yargıcı John Roberts'a geçtiğimiz günlerde "yapay zekayla çalışan akıllı makinelerin delil aramaya ve hatta adli kararlar almaya yardımcı olacağı" bir günü hayal edip edemediği soruldu. Şöyle yanıt verdi: “O gün geldi çattı ve bu, davaların ele alınmasında yargıya büyük katkı sağlıyor.”
Roberts, özel bir şirketin gizli özel yazılımının tavsiyesi üzerine altı yıl hapis cezasına çarptırılan Eric Loomis'in son davasından bahsediyor olabilir. Daha önce sabıka kaydı bulunan ve çalıntı bir arabayla polisten kaçtığı için cezaya çarptırılan Loomis, şimdi ne kendisinin ne de temsilcilerinin tavsiye algoritmasını gözden geçirmemesi veya itiraz etmemesi nedeniyle yasal süreç haklarının ihlal edildiğini iddia ediyor.
Rapor, Notrpointe tarafından mahkemelere satılan bir program olan Compas tarafından hazırlandı. Program, yapay zeka araştırmalarında yeni bir trendi bünyesinde barındırıyor: yargıçların mahkemede "daha iyi" (veya en azından daha fazla veriye dayalı) kararlar almasına yardımcı olmak.
Loomis davasının belirli ayrıntıları gizli kalsa da, kesinlikle Loomis'in hayatını, davranışını ve hastalığın tekrarlama ihtimalini tanımlayan çizelgeler ve rakamlar içeriyor. Bunlar arasında yaş, ırk, cinsiyet kimliği, alışkanlıklar, tarayıcı geçmişi ve kafatasının bazı ölçümleri yer alıyor. Kimse kesin olarak bilmiyor.
Davadaki savcının hakime Loomis'in "tekrar suç, şiddet ve duruşma öncesi mahkûmiyet riski yüksek" olduğunu söylediği biliniyor. Cezalandırma söz konusu olduğunda bu standarttır. Yargıç bunu kabul etti ve Loomis'e "Compas'ın değerlendirmesinin onun halk için yüksek risk teşkil ettiğini belirlediğini" söyledi.
Wisconsin Yüksek Mahkemesi Loomis'i kınadı ve Compas raporunun kararına değerli bilgiler kattığını ancak onsuz da aynı cümleye ulaştığını kaydetti. Elbette bunu kesin olarak kontrol etmenin bir yolu yok. Bir dava, Compas'ın hakimlere ne yapmaları konusunda tavsiyelerde bulunması gibi çok güçlü bir "akıllı" sistemi içeriyorsa ne tür bilişsel önyargılar olabilir?
Açık olalım, Wisconsin mahkemesinin yaptığında "yasadışı" hiçbir şey yok; bu sadece bir örnek. Diğer mahkemeler de aynısını yapabilir ve yapacaktır.
Ne yazık ki, cezalandırmada yapay zeka ve diğer algoritmaların ne ölçüde kullanıldığını bilmiyoruz. Bazı mahkemelerin Compas gibi sistemleri kapalı çalışmalarda "test ettiği" ancak ortaklıklarını ilan edemedikleri düşünülüyor. Ayrıca birçok yapay zeka girişiminin benzer akıllı sistemler geliştirdiğine inanılıyor.
Ancak yapay zekanın hukukta kullanımı ceza vermeyle başlayıp bitmiyor, soruşturmayla başlıyor. Birleşik Krallık halihazırda, daha fazla araştırma gerektirebilecek şeyleri vurgulamak için metinler, laboratuvar raporları ve polis belgeleri gibi tonlarca veriyi tarayarak saniyeler içinde emek yoğun analitik çalışmalar yapan, VALCRI adında bir sistem geliştirdi.
Birleşik Krallık'taki West Midlands Polisi, önümüzdeki üç yıl boyunca 6,5 milyondan fazla kayıt içeren anonimleştirilmiş verileri kullanarak VALCRI'yi test edecek. Benzer bir dava Belçika'da Anvers polisi tarafından yürütülüyor. Ancak devasa veri kümelerini içeren yapay zeka ve derin öğrenme projeleri geçmişte sorunluydu.
Birkaç Kişi İçin Faydaları
Teknoloji, kopyalama makinelerinden parmak izlerinden DNA çıkarmaya ve gelişmiş gözetleme tekniklerine kadar mahkeme salonlarına pek çok faydalı yardım sağladı. Ancak bu her teknolojinin bir gelişme olduğu anlamına gelmez.
Yapay zekanın soruşturmalarda ve mahkumiyetlerde kullanılması potansiyel olarak zamandan ve paradan tasarruf sağlayabilirken, çetrefilli sorunlara yol açacaktır. ProPublica'nın Compas raporu, programın yanlış bir şekilde siyahları yeniden bölünme olasılığı beyazlara göre daha yüksek olarak sıraladığını açıkça ortaya koydu. En karmaşık yapay zeka sistemleri bile onları yaratanların ırksal ve toplumsal cinsiyet önyargılarını miras alabilir.
Üstelik insanlara özgü konularda karar almayı (en azından kısmen) bir algoritmaya bırakmanın ne anlamı var? ABD'de jürilerin emsallerini yargılamasında belli bir zorluk var. Kanunlardaki standartlar hiçbir zaman standart olmamıştır, bu yüzden bu jüri yargılamaları en demokratik ve etkili cezalandırma sistemleri olarak kabul edilmektedir. Hatalar yaparız, ancak zamanla bunları nasıl yapmamamız gerektiği konusunda bilgi biriktirir ve sistemi iyileştiririz.
Pusulalar ve onun gibi sistemler hukuk sisteminde bir “kara kutuyu” temsil ediyor. Böyle şeylerin olmaması lazım. Hukuk sistemleri sürekliliğe, bilginin şeffaflığına ve inceleme kapasitesine bağlıdır. Toplum, hızlı, ucuz ve ayrıcalıklı çözümler üreten yapay zeka girişimleri yaratma yarışını teşvik eden bir sistem istemiyor. Aceleyle yapılmış bir yapay zeka korkunç olacaktır.
Compas'ın güncellenmiş bir açık kaynak sürümü bir gelişme olacaktır. Ancak algoritmalar lehine sorumluluktan feragat etmeye başlamadan önce, öncelikle adalet sisteminin standartlarını yükseltmemiz gerekecek.
İnsanlar, insanlar gibi davranan teknolojiyi ve devasa miktarda veri işleyen bilgisayarları gözlemlediğinde, gelecekle ilgili pek çok düşünce ortaya çıkıyor. Bunların önemli bir kısmı insan ırkının köleleştirilmesi temasına dayanıyor.
2001: A Space Odyssey'den (1968) Avengers: Age of Ultron'a (2015) kadar bilim kurgu edebiyatı ve sineması, yapay zekanın yaratıcılarının beklentilerini aşacağını ve kontrolden çıkacağını öngörüyor. İddiaya göre amacı sadece insanlarla rekabet etmek değil, türümüzü köleleştirmek ve yok etmek olacak.
Bilim kurgu mu yoksa korkutucu gelecek mi?
Bu yıl üçüncü sezonu yayınlanan bilim kurgu dizisi “Humans”ın ana temasını insanlar ve yapay zeka arasındaki çatışma oluşturuyor. Yeni bölümlerde "sentetik" insanlar, kendilerine şüphe, korku ve nefretle yaklaşan sıradan insanların düşmanlığıyla karşı karşıya kalıyor. Şiddet öfkeleniyor. "Sentetikler", kendilerini insanlık dışı görenlere karşı temel hakları için savaşıyor.
Fantezi hayal gücünün en uç noktasıdır. Ancak gerçek dünyada bile herkes yapay zekayı kollarını açarak karşılamak istemez. Son yıllarda yapay zekanın hayal edilebilecek yeteneklerinin sınırları aktif olarak genişlemektedir. İnsanlar giderek bunun tehlikeleri hakkında konuşuyor. Ve teknolojinin insanlığı mahvedebileceği yönündeki varsayımlar daha gerçekçi görünüyor. Yapay zeka bizi korkutuyor.
Yapay zeka hakkında görüş
Elon Musk, yapay zekayı tartışırken dikkatli olunması gerektiğini söyleyen en önde gelen insanlardan biri. Geçtiğimiz Temmuz ayında Ulusal Valiler Birliği'nin bir toplantısında şunları söyledi: "Teknolojik yapay zeka konusunda çok fazla deneyimim var ve bunun insanlığın gerçekten endişelenmesi gereken bir şey olduğunu düşünüyorum. Alarmı çalmaya devam ediyorum. Robotik arabalar sokaklarda insanları öldürene kadar buna nasıl tepki vereceğimizi bilemeyeceğiz, çünkü böyle bir ihtimal gerçekçi değil."
Musk, 2014 yılında yapay zekayı "varoluşsal en büyük tehdidimiz" olarak nitelendirdi ve Ağustos 2017'de yapay zekanın insanlık için Kuzey Kore ideolojisinden daha büyük bir risk oluşturduğunu söyledi.
Büyük fizikçi Stephen Hawking de yapay zekanın kötü niyetli kullanımına ilişkin endişelerini dile getirdi. 2014 yılında BBC'ye "tam teşekküllü yapay zekanın geliştirilmesinin insanlığın sonunu getirebileceğini" söyledi.
Yapay zekanın tehlikeli olduğunu kanıtlamaya karar veren Cambridge'deki MIT Medya Laboratuvarı'ndan programcılardan oluşan bir ekip başka bir darbe daha vurdu. MIT'de 2016 yılında tanıtılan Kabus Makinesi sinir ağı, sıradan fotoğrafları korkunç, şeytani manzaralara dönüştürdü. Shelly (yine MIT'de geliştirildi) adı verilen bir yapay zeka, Reddit kullanıcılarının r/nosleep forumunda yayınladığı 140.000 korku hikayesi yarattı.
MIT Medya Laboratuvarı araştırma müdürü Manuel Cebrian, deney hakkında şunları söyledi: "Yapay zekanın duyguları nasıl uyandırdığıyla ilgileniyoruz, özellikle bu durumda korkuyu tetikledi."
Neden korkuyoruz?
Cornell Üniversitesi bilgisayar bilimi yardımcı doçenti Kilian Weinberger'e göre yapay zekaya ilişkin olumsuz izlenimler iki kategoriye ayrılıyor:
Yapay zekanın bilinçli olarak bağımsız olacağı ve bizi yok etmeye çalışacağı fikri.
Saldırganların yapay zekayı kendi amaçları için kullanacakları görüşü.
“Yapay zeka bizi korkutuyor çünkü süper endüstriyel yapay zekanın bir insandan daha akıllı hale gelerek ona aşağı bir varlık gibi davranacağını düşünüyoruz. Tıpkı primatlara yaptığımız gibi. Bu da elbette insanlık açısından son derece heyecan verici.”
Ancak Weinberger, yapay zekanın üstünlüğü ve ırkları yok etme arzusu hakkındaki endişelerin teknoloji hakkındaki yanlış anlamalara dayandığını belirtiyor. Yapay zekayı çalışırken gördüğümüzde etkileyicidir. Ama aynı zamanda birçok sınırlaması da var. Yapay zeka algoritmalar tarafından belirlenir. Davranışını önceden belirlenmiş işlevleri kullanarak tanımlarlar, daha fazlasını değil.
Sinir ağları, birden fazla veri türü üzerinde karmaşık görevleri yerine getirir. Ancak bir kişinin sahip olduğu becerilerin çoğu, kasıtlı olarak geliştirilmese bile makine zekası tarafından erişilemez.
Yapay zeka, uzmanlık gerektiren işleri yapma konusunda insanlardan kat kat üstün olabilir. Örneğin satranç oynamak, bir görüntüden nesneleri tanımlamak veya muhasebe veya bankacılıkta büyük veri analizi.
Bağımsız bir bilince sahip olan yapay zeka, insanlığı köleleştirecek kadar ilerleme sağlayamayacaktır. Weinberger, böyle bir ilerlemenin yakın gelecekte ortaya çıkacağına inanmak için hiçbir neden olmadığını da ekliyor.
Ancak yapay zekanın bizi neden korkuttuğuyla ilgili başka bir konu daha var: Yapay zeka yeteneklerinin kötü niyetli kişiler tarafından kullanılması. Bu senaryo daha gerçek ve tehlikelidir.
Korkumuz rasyonel mi?
"Humans" adlı televizyon dizisinin dünyasında insanlık, akıllı yapay zekadan korkar ve onunla şiddetli bir yüzleşmeye girer. Ve projenin popülaritesine bakılırsa, bu hikaye toplumun mevcut ihtiyaçlarına cevap veriyor.
Belli bir risk kesinlikle mevcut olduğundan teknoloji korkusu temelsiz denemez. Ancak herhangi bir aletin tehlikesi onu kontrol edenin düşüncelerinde yatmaktadır. Açıkçası, yapay zekanın iyiye hizmet edebilmesi için insanlığın çözmesi gereken soru tam da bu.
Onlarca yıldır bilim insanları bir makineyi yalnızca alınan emirleri yerine getirmeye değil, aynı zamanda kendi başına düşünmeye de zorlamaya çalışıyorlar. Modern bilgisayarların hafızası insanınkiyle karşılaştırılabilir, mantıksal işlemleri gerçekleştirme hızı kat kat daha yüksektir, ancak araştırmacılar henüz zihni simüle etmeyi başaramadı. ITMO Üniversitesi Bilgisayar Bilimleri Bölümü doçenti Igor Bessmertny, yapay zeka (AI) alanındaki modern zorluklardan bahsediyor.
Yaygın anlayışta yapay zeka, duyguları ve bilinci barındıran bir bilgisayardır. Modern araştırmacılar bu kavramla ne kastediyor?
Terimin yazarı John McCarthy, zekayı bir kişinin hedefler belirleme ve bu hedeflere ulaşma yeteneği olarak tanımladı. Belirli bir teknik cihaza zeka kazandırmaya çalışıyorsak, bu onun ortaya çıkan sorunları bağımsız olarak çözmesini istediğimiz anlamına gelir. Bilgisayarlar insanlardan çok daha hızlı akıl yürütebilir ancak kaba kuvvet yöntemlerini kullanarak çözüm bulmak çok fazla kaynak gerektirir. Satranç oyununun başında Beyaz oyuncunun her piyon ve at için iki seçeneği vardır. Buna karşılık rakip de yirmi seçenek arasından seçim yapıyor ve ilk hamlede 400 olası kombinasyonumuz olduğu, ikinci hamlede 160.000 vb. olduğu ortaya çıkıyor. Buna kombinatoryal patlama denir ve sorunu doğrudan çözmeye yönelik girişimler hiçbir sonuç vermez.
Antropomorfik bir yaklaşım geliştiriyorum ve insan beynini davranışsal düzeyde yeniden üretmeye çalışmamız gerektiğine inanıyorum. Yaşam boyunca kişi sürekli olarak edinilen entelektüel becerilere yönelir. Ayakkabı bağlarımızı bağlamayı ya da çarpım tablosunu kullanmayı iki kez düşünmüyoruz. Daha yüksek düzeyde beceriler var: Profesyonel bir satranç oyuncusu, hazırlıksız bir oyuncuyu "otomatik olarak" yenebilir. Becerilerin sayısı insan hafızasının miktarına göre belirleniyor ve makineler artık fazlasıyla bu hafızaya sahip. Makinelerin entelektüel becerileri, çıktılarının mantığını, her olgunun ve becerinin nasıl elde edildiğini kaydedeceği bir veri yapısına ihtiyacımız var. Bu durumda hızlı veri çıkışı sağlayacağız ve karmaşık sorgulara cevap verecek akıllı sistemler oluşturabileceğiz.
Örneğin internette suyun kaynama noktasını ararsak hemen cevap alırız ancak arama portallarında belirli sorulara hazır cevaplar yoktur. Tibet'te suyun kaynama noktasını bulmak için kuralları birleştirmemiz, kaynama noktasının atmosferik basınca bağımlılığını, basıncın deniz seviyesinden yüksekliğe bağımlılığını ve Tibet'in rakımını hesaba katmamız gerekecek. Ancak belirli mantıksal eylemlerden sonra bir çözüm bulabiliriz ve eğer bunu bilgi tabanına girersek, bir dahaki sefere gerçek hızlı bir şekilde geri alınacaktır. Her aramada verilerin uygunluğunu kontrol etmek de önemlidir - şu anda ABD Başkanının Barack Obama olduğunu düşünmüyoruz, ancak gelecekte bu veriler güncelliğini yitirecek.
- Bu teknik olarak mümkün mü?
Kendi kendine öğrenmenin ilkeleri sinir ağları kullanılarak uygulanır. Artık tahminlerde bulunmak, borsalarda işlem yapmak için kullanılıyorlar ve bazı arabalara yaya tanıma sistemleri yerleştirilmiştir. Bazen bir cihazın akıllı davranışı, bir insan operatörün bulunmasının imkansız olduğu yerlerde veya hayatı kolaylaştırdığı durumlarda gerekli olabilir. Ancak bu tür cihazların her biri dar bir görev yelpazesini yerine getirir. Robot hemşireler ve robot aşçılar var, ancak evrensel yapay zekaya artık genel olarak ihtiyaç duyulmuyor.
- Gelecek bilimcilerin, insanların akıllı ortaklara sahip olacağı yönündeki hayalleri ne olacak?
Sırf konuşacak birine sahip olmak için bir homunculus yaratırsanız, bu makul olmayan derecede yüksek maliyetler gerektirecektir. Ve zaten yeni bir şey bulmak için bilgisayarı kullanmaya çalıştılar. Heinrich Altshuller'in yaratıcı problem çözme teorisi (TRIZ), referans kitapları ve tablolar biçiminde harika çalıştı. Ancak bunu otomatikleştirmeye karar verdiklerinde TRIZ'in yalnızca bir insan mucidin elinde çalıştığı ortaya çıktı. Bunun nedeni hiçbir şekilde resmileştirilmemiş birçok gerçeğin olmasıdır. Bir kişinin hayatının ilk üç yılında bilgisinin yarısını edindiğine inanılıyor ve bazen bunun var olduğunu ve resmileştirilmesi gerektiğinin farkına bile varmıyoruz. Elimde tuttuğum nesneyi bırakırsam yere düşecek; Bu insanlar için açıktır, ancak makineler için değildir. Benim hesaplamalarıma göre bir kişinin ortalama 50 milyon bilgiyi saklaması ve kullanabilmesi gerekiyor. Karşılaştırma için: Cycorp 1984'ten beri ontolojik bir bilgi tabanı derliyor ve bu süre zarfında yalnızca 3 milyon gerçeği biriktirdi. Evrensel bir akıllı sistemi çalıştırmak için en az iki kat daha fazlasına ihtiyacınız var.
- Wolfram gibi modern soru cevaplama sistemleriBu anlamda alfa yapay zeka mı?
WolframAlpha öncelikle matematik problemlerini çözmek için geliştirildi, bu konuda IBM projelerine odaklanacağım. Doksanlı yıllarda IBM, satranç süper bilgisayarı Deep Blue'yu yarattı ve Garry Kasparov'u yendikten sonra tıbbi amaçlarla kullanılacaktı. Deep Blue'nun buna uygun olmadığı ortaya çıktı - öğrenemedi ve onu başka bir alanda kullanmak için her şeye sıfırdan başlamak gerekiyordu. Şirket şu anda Watson adında bir süper bilgisayar geliştiriyor ve bu bilgisayar, Jeopardy! adlı oyun programında insanları yenmek gibi etkileyici sonuçlar elde ediyor. Ancak Watson ticari bir proje olduğundan, bilgi aramak için hangi yöntemlerin kullanıldığı, çıkarım zincirlerinin nasıl yürütüldüğü ve IBM'in kombinatoryal karmaşıklık sorununu nasıl çözdüğü ancak tahmin edilebilir.
- Gelecekte yapay zeka teknolojileri nasıl gelişecek?
Sektör çok hızlı geliştiği için yapay zeka alanında tahminlerde bulunmak zor. Konuşma tanıma teknolojilerinin nasıl geliştiğine ve artık her cep telefonunun ses kontrolüne sahip olduğuna tanık oluyoruz. Görüntü tanıma da düşündüğümüzden daha hızlı gelişiyor. Bunlar pragmatik teknolojiler, ancak yapay zekanın yaratılmasının teknik olarak mümkün olduğuna eminim - şimdi değil, gerektiğinde.
ITMO Üniversite Basın Servisi
Yükleniyor...
