Yapay Zekalar Programın Dısına Cıkabılıyorlar Mı?
-
Amazon da İşe alımlar ıcın bır yapay zeka geliştirlmişti ve de yapay zeka ya tanıtılan cv lerın cogunun erkek olmasından kaynaklı olarak yapay zeka kendısıne gelen kadın ozgeçmişleriyle ilgilenmeme baslamıs ve de cinsiyetci ayrımlara sebebep olduugu gerekcesıyle amazon tarafından kaldıırldıgı duyuruldu
haberın kaynagı
https://webrazzi.com/2018/10/11/amazon-ise-alim-icin-urettigi-yapay-zekayi-cinsiyetcilik-yaptigi-icin-kapatti/
-
Basitçe training verisine göre parametrelere ağırlık veriyorlar. Training verisinde daha çok erkek adaylar işe kabul edilmişse gerçek veride yapay zeka erkek adaylara ağırlık verecektir.
-
Person of Interest dizisinden bir diyalog ;
Harold Samaritan'ın yaptığı iyiliklerden şüphelenmeye başlamış ve kızlar onun machine'in görevini yapan Samaritan'ın iyilik yapmasına atıflarda bulunurken. kendi yarattığı varlığın iyi olduğuna inansa da bir gün diğeri kadar kötü olabileceğini söyler.
-Senin yarattığın makine bence çok iyimser bir şey diye cevap alır.
Harold bunu şöyle cevaplar.
-Bir kongre üyesini öldürmemizi istediğini unuttunuz mu?
Ama bu sadece Samaritan'ın aktifleşmesini engellemek içindi diye bir cevap daha alır.
Harold ise buna şöyle cevap verir.
-Peki bu nerede bitecek Shaw? Şimdi bir kongre üyesi, ileride bir başkan, ya bir gün dost yapay zekamız kıtlık sona ersin diye gezegende yeterli gördüğü sayıda insanı öldürmeye karar verirse? amacına ulaşmış olur ama bu tam olarak içimizden geçenlerle örtüşmez değil mi ?
Root cevaplar :
-Senin makinen bunu yapmaz.
Harold ona da karşı gelir,
-Bunu bilemezsiniz. -
bılgılendırmelerınız gerçekten cok guzel teşekkur ederım
-
Amazon olayı ve daha önce microsoft'un yaşadığı benzer olayın sebebi @kyrpt'inde belirttiği gibi train verisiyle alakalı. Senin soruna gelirsek hani programın dışına çıkabilir mi? Yıllar yıllar önce(a.k.a. saçım varken) bunu bir hocamızla tartışmıştık; kendisi adaptif sinyal işleme filterlerinden bahsetmişti; sistemin daha önce hiç karşılaşmadığı bir durumla karşılaştığında eğer ne yapacağını bilmiyorsa deneme yanılma ve inputlarına göre kendini adapte etmeye çalışmasından bahsetmişti. Hatta örnek olarak mars'da ki robotu vermişti; daha önce hiç karşılaşılmamış bir zemin türüyle karşılaşırsa kendini bu şekilde adapte edecek diyordu.
Sonuç olarak bu tür bir durumla karşılaşan yeteri kadar gelişmiş bir A.I. beklenmeyen bir davranış sergileyebilir.
-
yarı korkutucu olmasına karsın bılımsel bır cevap tesekkur ederım
-
sandman bunu yazdı
Amazon olayı ve daha önce microsoft'un yaşadığı benzer olayın sebebi @kyrpt'inde belirttiği gibi train verisiyle alakalı. Senin soruna gelirsek hani programın dışına çıkabilir mi? Yıllar yıllar önce(a.k.a. saçım varken) bunu bir hocamızla tartışmıştık; kendisi adaptif sinyal işleme filterlerinden bahsetmişti; sistemin daha önce hiç karşılaşmadığı bir durumla karşılaştığında eğer ne yapacağını bilmiyorsa deneme yanılma ve inputlarına göre kendini adapte etmeye çalışmasından bahsetmişti. Hatta örnek olarak mars'da ki robotu vermişti; daha önce hiç karşılaşılmamış bir zemin türüyle karşılaşırsa kendini bu şekilde adapte edecek diyordu.
Sonuç olarak bu tür bir durumla karşılaşan yeteri kadar gelişmiş bir A.I. beklenmeyen bir davranış sergileyebilir.
Aynı olaya bir başka örnek:
-
-
Gülmek ve sevmek nedir bilmeyen bir bilincin ne gibi yönlere kayacağı belirgin değildir, evrildikleri nokta anladığım kadarıyla baskın gelen bilince yönelme var, söz gelimi kıtlığı bitirebilmek için insan nüfusunun büyük bir kısmını yok etmeye karar vermek gibi.. İyi ve kötü yargısı yapmaları imkansız olabilir.. Ya da şöyle diyeyim, yargı yeteneği olmayan bilince gelecekte yetki teslim etmek felakete sebep olabilir.
-
ShockMan bunu yazdı
Gülmek ve sevmek nedir bilmeyen bir bilincin ne gibi yönlere kayacağı belirgin değildir, evrildikleri nokta anladığım kadarıyla baskın gelen bilince yönelme var, söz gelimi kıtlığı bitirebilmek için insan nüfusunun büyük bir kısmını yok etmeye karar vermek gibi.. İyi ve kötü yargısı yapmaları imkansız olabilir.. Ya da şöyle diyeyim, yargı yeteneği olmayan bilince gelecekte yetki teslim etmek felakete sebep olabilir.
İzlediğim bir çizgi dizide dediğin olayı binlerce insan beynini bir havuzda toplayarak aşıyorlardı. Yapay yapaydır hacı :D
-
adı üstünde yapay zeka. bilinen komut ve durumlar bittikten sonra, IQ(vardır heralde zeka sonuçta :D )'su el verdiği müddetçe kendince bişiler yapacaktır.
filmlerde izlediğim kadarıyla da dünyanın ve insanlığın iyiliği için hedef olarak bizi seçebilir zamanla.
bence ilerisi çok iyi olmayacak gibi.