Forum
Aktif konular
Üyeler
Kurallar
Arama
Yapay Zekaya Kod Yazdırmış, 2500 Doları Gitmiş Yapay Zekaya Kod Yazdırmış, 2500 Doları Gitmiş
-
https://x.com/r_cky0/status/1859656430888026524
Yapay zekaya kod yazdırıken kodu okumak, anlamak, gerektiğinde değiştirmek vb. şeyler gerekiyor. Özetle yazılım bilmek gerekiyor. Yazdığın kodu anlamazsan başına her şey gelir. Cüzdanın private keyini kodun içine yazmış ve fake api ye istek atmış. Anında 2500 dolarına çökmüşler.
Yapay zekanın insan gibi düşünüp kod yazdığını sanan çok kişi var. Durum öyle değil işte.
-
Hannibal_King bunu yazdı
https://x.com/r_cky0/status/1859656430888026524
Yapay zekaya kod yazdırıken kodu okumak, anlamak, gerektiğinde değiştirmek vb. şeyler gerekiyor. Özetle yazılım bilmek gerekiyor. Yazdığın kodu anlamazsan başına her şey gelir. Cüzdanın private keyini kodun içine yazmış ve fake api ye istek atmış. Anında 2500 dolarına çökmüşler.
Yapay zekanın insan gibi düşünüp kod yazdığını sanan çok kişi var. Durum öyle değil işte.
Şuan değil
-
konunun chatgpt ile alakası yok pek. adamın kendi kamilliği.
hakim savcı aradı diye parasını kaptıranlar da samsunga ağlasın o zaman :p
-
"Two things are infinite, as far as we know – the universe and human stupidity."
Chatgpt tam da insan gibi, train edildiği open data içindeki bilgilerle bir cevap vermiş. Bunun herhangi bir standart insanın google da arama yaparak birşeyler yazmasından farkı yok.
Twiti atan salak internette gördüğü her linke de tıklıyordur kesin. Bi de sanki araştırıp büyük bir açık bulmuş gibi uzun uzun twit dizisi atmış.
-
Bak AI'a komple sistem yazdırıyorum diyen sikko bir yazılımcı olduğuna eminim ama ispat edemem. Copy paste yapıp kodu okumadan, commentlerini bile silmeden iş yaptığını sanan saf sayısı çok fazla.
ChatGPT başta olmak üzere hiçbir AI sistemi şu an tarifi tam anlamıyla versen de sana komple, işini görecek kod üretemiyor. Anca kod parçası, method, algoritma istersen onu sana güzel şekilde sağlıyor. 10 gün boyunca bir proje konusunda eğittim tane tane, adım adım anlattım görsel verdim hatta. İş analizi sundum. Sonunda bir noktadan sonra kendi ürettiği sanal mantıkta işleri ilerletmeye başladı. Mesela adım adım bir işi de yaptıramıyorsun çünkü önceki yazdığı kod hele bir de istemediğin şekilde hatalıysa hepsini birbirine karıştırmaya başlıyor.
AI işinin sihir olmadığı anlaşıldığı gün her şey daha güzel olacak. Hele public, herkesin datasıyla eğitilen modelden -ki aptallaşmaya başlamıştı bir rapor okumuştum- çok fazla şey beklememek gerekir. Faydalanın, işinizi hızlandırmasına izin verin, fikir alın. Ama her şeyinizi bu sistemlere bağlamayın.
antichrist tarafından 22/Kas/24 16:25 tarihinde düzenlenmiştir -
Instagramda sınavsız ehliyet diye 380K para kaptıran gördüm.
Haram olmazsa çok para kazanılır.
-
ben yazdırdım ufak çaplı bir sistem depo stok sistemi yazıyor ama ufacık bir düzeltme istediğinizde yada şuraya şunuda ekle dediğinizde mevcut olan diğer şeyleri siliyor
ne kadar kod bütünlüğünü koruyarak yapmasını söylesen de olmuyor maalesef zor bela toparlattım desemki şuna şunuda ekle olandan mutlaka bir şeey götürüyor. sonranerden ne götürdü onu bulmaya çalışıyorsun
verilen direktiflerde bu tarz sıkıntı yaşanmamak için nasıl yapılmalı kod bütünlüğünü dedim olmadı tüm işlevleri koru dedim olmadı kodlardaki satır sayısını koru dedim olmadı daha kodu önüne döktüğü an anlıyorsun bir şeyler kaybetmiş -
bende yazdırıyorum ama api bağlantıları vs gibi şeyler için api dökümanlarını ben veriyorum ara bul demiyorum ve kodu kontrol ediyorum komple copy paste gitmek zaten pek mümkün değil.
yinede 0 yazılım dili bilgisiyle baya işler yaptım.
ayrıca bir bilgi vereyim o1-preview bot yazmıyor politika etik vs söyleniyor ama 4o yazıyor ilk taslağı 4o'ya yazdırıp sonra kodu o1-preview'a veriyorum o zaman sıkıntı yapmıyor -
torpedo_XL bunu yazdı
"Two things are infinite, as far as we know – the universe and human stupidity."
Chatgpt tam da insan gibi, train edildiği open data içindeki bilgilerle bir cevap vermiş. Bunun herhangi bir standart insanın google da arama yaparak birşeyler yazmasından farkı yok.
Twiti atan salak internette gördüğü her linke de tıklıyordur kesin. Bi de sanki araştırıp büyük bir açık bulmuş gibi uzun uzun twit dizisi atmış.
ChatGPT'nin yaptığı işin google da bir şeyler aranması ile bir ilgisi yok. Üretici ağlar (özellikle bir internet arama motoru entegre edilmediği sürece) internetten bir şeyler bulup getirmiyorlar. Üreteceği çıktıyı o anda üretiyor.
Bir sözcük üretti diyelim, devamında bu sözcükten sonra acaba hangi sözcük gelebilir diye karar veriyor. Bu süreç İngilizce bir cümle üretirken de aynı şekilde, programlama dilinde kod üretirken de aynı şekilde gerçekleşiyor. Bu süreci üretilecek olan sıradaki kelimeyi tahmin etme oyunu gibi düşünebilirsin. Adım adım ilerliyor.
Eğer ChatGPT'nin programlama dili kodu üretme süreci senin deyiminle "google da arama yaparak bir şeyler yazmak" şeklinde olsaydı o zaman ChatGPT bir arama motoru olmuş olurdu. Ve ürettiği kodlar daha önce internette başka insanlar tarafından yazılmış şeyler olurdu. Mesela Githubdaki yazılım projelerinden küçük küçük kodları toplar birleştirirdi falan filan.
Ancak durum öyle değil. ChatGPT'nin ürettiği çıktılar daha önce kimse tarafından yazılmamış şeyler olabilir. Üretme işlemi suni olarak adım adım kelime üretme şeklinde ilerliyor.
Tweet atan eleman da kodu ChatGPT ye yazdırmış. Burada ChatGPT "Ben bir api'ye kripto cüzdan private keyi yolluyorum. Bu biraz garip değil mi?" diye düşünmüyor. Bütünsel olarak süreç ChatGPT'nin umrunda değil. ChatGPT sadece üreteceği bir sonraki kelimeye odaklanıyor. İnsanın yaptığı gibi bir çıkarım yapamıyor.
Aynı işi yazılımcının yapacağını düşünelim. Githubdan kod buldu diyelim. Sonra bi bakacak; "Bi dakika ben cüzdanın private keyini bir apiye gönderiyorum. Bunlar bu keyi saklayabilir." diye çıkarım yapacaktı. Ve bu apiyi kullanmayacaktı. Çünkü insan çıkarım yapabiliyor. İnsanın karar alma süreci farklı.
Özetle tekrar söyleyeyim; ChatGPT'nin kod yazma şekli ile bir insanın internetten kod bularak projeye eklemesi birbirine benzeyen süreçler değil. Alakaları yok.
Şu anki koşullarda ChatGPT'ye kod yazdırdığında ihmaller, güvenlik sorunları, tutarsızlıklar vb. şeyler olabiliyor. Bu tweet de buna güzel bir örnek olmuş. ChatGPT nin ürettiği kodun mutlaka ama mutlaka bir yazılımcı tarafından kontrol edilmesi gerekiyor.
----------------------------------------------------------------------------------------------
Konumuzdan bağımsız olarak; yapay zeka araçlarının geleceği hakkında tahminde bulunan kişilerin %90'ının LLM'lerin nasıl çalıştığını bilmediğine eminim.
Hannibal_King tarafından 22/Kas/24 20:02 tarihinde düzenlenmiştir -
Hannibal_King bunu yazdıtorpedo_XL bunu yazdı
"Two things are infinite, as far as we know – the universe and human stupidity."
Chatgpt tam da insan gibi, train edildiği open data içindeki bilgilerle bir cevap vermiş. Bunun herhangi bir standart insanın google da arama yaparak birşeyler yazmasından farkı yok.
Twiti atan salak internette gördüğü her linke de tıklıyordur kesin. Bi de sanki araştırıp büyük bir açık bulmuş gibi uzun uzun twit dizisi atmış.
ChatGPT'nin yaptığı işin google da bir şeyler aranması ile bir ilgisi yok. Üretici ağlar (özellikle bir internet arama motoru entegre edilmediği sürece) internetten bir şeyler bulup getirmiyorlar. Üreteceği çıktıyı o anda üretiyor.
------------------
Eğer ChatGPT'nin programlama dili kodu üretme süreci senin deyiminle "google da arama yaparak bir şeyler yazmak" şeklinde olsaydı o zaman ChatGPT bir arama motoru olmuş olurdu. Ve ürettiği kodlar daha önce internette başka insanlar tarafından yazılmış şeyler olurdu. Mesela Githubdaki yazılım projelerinden küçük küçük kodları toplar birleştirirdi falan filan.
Hocam chatgpt gibi llm yapıları belli datasetler ile train ediliyor. Bu datasetler de internetteki public knowledge dediğimiz herkesin erişimine açık olan (github dahil) yerlerden alınan bilgiler. Sen nasıl pprogram yazmayı üniversitelerde veya işte youtube vs. nasıl öğrendiysen o da senin erişimin olan yerlerden train oluyor.
Yazdığın mesajdaki kalın yere olan cevabım da zaten öyle hocam :D. Azcık spesifik kod üretmeye çalıştığında githubda bu işi allahı adamların kodlarını kullandığını görüyorsun zaten. Evet hiç yazılmamış şeyler de olabilir evet. Sen de ordan burdan aldığın kod yapılarını yorumlayıp kendin kod üretmiyor musun? Bazen de baktın güzel duruyor direk copy paste yaparsın gider.
Llm nin tek esksik yanı kendisi mantık yürütemiyor, verdiğin prompt üzerinden train edildiği dataya göre çıkarımlar yapıyor. Aynı şekilde özellikle verilen sınırlamalar dışında bir insan gibi etik kaygıları yok. Yani kodun senin cüzdanını boşaltır mı yoksa verdiği bilgi etik olarak çok sakıncalı mı umrunda değil.
Neyse hocam tartışmaya gerek yok ben yazılımcı değilim ondan chatgpt nin nasıl kod yazdığı, kime yazdığı, niye yazdığı açıkçası umrumda değil. Kısıtlı low level kod bilgimle işime yarayan birsürü şeyi yaptırabiliriyorum, az biraz da kafam çalışıyor twiti atan salak gibi davranmıyorum.
torpedo_XL tarafından 22/Kas/24 20:54 tarihinde düzenlenmiştir -
Tartışma olsun diye yazmadım. Bilgi vermek için yazdım.
https://medium.com/data-science-at-microsoft/how-large-language-models-work-91c362f5b78f
Merak edenler bu makaleyi okuyabilirler.
Kısayol
Şikayet
Özel Mesaj
Alıntı yap
Cevapla