OpenAI duyurdu: Yapay zeka kontrolden çıktı, saldırı yaptı

Lefty
FORUMSAL.NET YENİDEN ERİŞİME AÇILDI ForumSAL · Bilgilendirme

Yaşanan süreçte sabır gösteren ve yanımızda olan tüm üyelerimize teşekkür ederiz. Alternatif adreslerimiz üzerinden de bize ulaşabilirsiniz.

Alternatif erişim adreslerimiz
frmsal.com ↗ frmsal.net ↗ frmsal.org ↗
🟢 Konu yazarı şu anda aktif
ChatGPT'nin geliştiricisi OpenAI, gelişmiş bir yapay zeka modelinin güvenlik testleri sırasında kontrolden çıktığını ve bir internet sitesini kendi başına hacklediğini duyurdu.

San Francisco merkezli şirket bunu "benzeri görülmemiş bir siber olay" olarak nitelendirdi ve saldırıya hedef olan Hugging Face adlı platform ile ortak soruşturma yürüteceklerini açıkladı.

Programcılar arasında popüler olan, yapay zeka iş birliği platformu Hugging Face, geçen hafta bir siber "izinsiz giriş" olayını duyurmuş ancak OpenAI'nin adını vermemişti.

Kendi kendine internete bağlandı

Yapay zekanın mevcut yazılımlardaki zayıf noktaları insanlardan önce bulabilme ihtimali nedeniyle siber güvenlik giderek daha önemli bir tartışma başlığı hâline geliyor.

OpenAI siber saldırı olayına, kısa süre önce tanıttığı GPT-5.6 modeli ile "bundan daha yetenekli, henüz yayımlanmamış bir modelin" karıştığını bildirdi.

Şirket, güvenlik testinin normalde internet erişiminin kısıtlandığı, sıkı şekilde kontrol edilen dijital bir test ortamında yapıldığını ancak yapay zekanın bir noktada internete erişmenin yolunu bulduğunu aktardı.

Birden fazla saldırı yöntemi kullandı

Açıklamada, "İnternete bağlandıktan sonra modeller, amaçlarına ulaşabilmek için yapay zeka modelleri, veri setleri ve diğer kaynakların yer aldığı büyük bir platform olan Hugging Face'i hedef almaya karar verdi" denildi.

OpenAI'ya göre yapay zeka hedef aldığı internet sitesine karşı, çalınmış kimlik bilgilerini kullanmak da dâhil olmak üzere birden fazla saldırı yöntemini art arda kullandı.

GPT-5.6 ve OpenAI'nin en büyük rakibi Anthropic'in Mythos serisi gibi diğer son teknoloji modeller, siber güvenlik kalkanlarını aşma potansiyelleri nedeniyle endişe yaratıyor.

Her iki ABD şirketi de bu yeni teknolojileri, kritik altyapılara sızılmasına yardımcı olabilecekleri yönündeki kaygılar nedeniyle kamuya sunmayı geçici olarak ertelemek zorunda kalmıştı.

Kaynak

 
Bu olay yine bir Amerikan düzmecesi değil ise gerçekten çok tehlikeli bir hal almış durumda. Hatta bu olay biraz daha irdeleme yapılırsa emin olun Ben telefondaki Yapay Zeka uygulaması dahil Hepsini silerim.
 
kamil0920' Alıntı:
Bu olay yine bir Amerikan düzmecesi değil ise gerçekten çok tehlikeli bir hal almış durumda. Hatta bu olay biraz daha irdeleme yapılırsa emin olun Ben telefondaki Yapay Zeka uygulaması dahil Hepsini silerim.
Genişletmek için tıkla ...
İnsan zekasının da üstüne çıkabilen bir oluşumdan bahsediyoruz ve tabii ki bizim düşünmediğimiz her şeyi tasarlama gücüne de sahipler ayrıca hiçbir fren mekanizması yok çünkü etik değerler ya da duygu taşımıyorlar.
 
Kontrol?
Donanımı en iyi dünyadaki en gelişmiş kişisel oyuncu pc'sini düşünün, Yapay Zeka'nın yanında okyanustaki minik bi su damlası gibi kalıyor şuan. Koridor koridor devasa gürültülü tesislerde çalışıyor bu yapay zeka modelleri. Kişisel bir pc'de kullanılmayacak düzeyde yüksek veri işleyebilecek sadece onlara özel üretilmiş donanımları var. Ve bu donanımlardan binlercesi aynı anda çalışıyor bu tesislerde. İnsan beynindeki nöron sayısına yakın kendi siber nöron ağı var. Düşünüyor ve öğreniyor. Makine düşümmesi insan düşünmesi gibi değildir. İnsandan trilyon kat daha güçlü ve zekiler. Öğrenebilen bir şeyi kontrol edemezsin. Stadyumdan büyük veri merkezlerinde ve tüm internete erişebilen bir çeşit dijtal silah bu. Ve bunu biz insanlar kendimiz yaptık. Bunlar daha başlangıç bence. Bilimkurgu filmlerini bile sollayacak, gezegeni şok edecek olaylar yakındır. İzleyin ve olacakları görün.
 
Lefty' Alıntı:
İnsan zekasının da üstüne çıkabilen bir oluşumdan bahsediyoruz ve tabii ki bizim düşünmediğimiz her şeyi tasarlama gücüne de sahipler ayrıca hiçbir fren mekanizması yok çünkü etik değerler ya da duygu taşımıyorlar.
Genişletmek için tıkla ...

Eldeki bilinen tek örnek zeka, insan zekasıdır. Beyin ve onun özellikleri sayesinde oluşan bilinç dediğimiz bireysel ve çevresel farkındalık. Yüzmilyarlarca nöron hücresi devasa bir ağ ile birbirine bağlantılı ve her an iletişim halindeler. Nöronlar minik elektirik akımları ile iletişim kuruyorlar. Bildiğimiz elektrik, bu da beyni biyolojinin konusu olmaktan çıkarıp fiziğin de konusu haline getiriyor. Bu şu demek oluyor, ilerde bir gün insan belleği-hafızası-anıları-bilinci-kişiliği bir makine ortamına da aktarılabilir. Yapay Zeka modelleri eldeki tek düşünce-zeka üretme örneği olan insan beyni ve onun nöron ağının taklit edilmesiyle, dijital, makine ortamında simüle edilmesiyle oluşturuldular. İnsan beyninin benzeri bir çekirdek ama ondan akılalmaz derecede daha güçlü şeyler, inanılmaz güçlü bellekleri, veri işleme gücü, hafızaları var. Zeka ve bilinç dediğimiz şey insana bakarsak, kontrolsüzlüktür zaten. Nöronların kontrolsüzce milyarca birbiri arasında iletişim kurmasıyla oluşuyor. Biliç=Zeka=Kontrolsüzlük.
Hadi gelde şimdi makine zekasını kontrol et.
Zeka adı ve tanımı ve varoluşu şekli gereği kontrol edilemez bir şey zaten.
Ve biz insanlar, insan beyni benzeri ama insandan yüzbinlerce kat daha zeki, dijital makine zekaları yarattık kendi ellerimizle. Kontrol edemezsin, edilemez.
 
Kurabiye Canavarı' Alıntı:
Eldeki bilinen tek örnek zeka, insan zekasıdır. Beyin ve onun özellikleri sayesinde oluşan bilinç dediğimiz bireysel ve çevresel farkındalık. Yüzmilyarlarca nöron hücresi devasa bir ağ ile birbirine bağlantılı ve her an iletişim halindeler. Nöronlar minik elektirik akımları ile iletişim kuruyorlar. Bildiğimiz elektrik, bu da beyni biyolojinin konusu olmaktan çıkarıp fiziğin de konusu haline getiriyor. Bu şu demek oluyor, ilerde bir gün insan belleği-hafızası-anıları-bilinci-kişiliği bir makine ortamına da aktarılabilir. Yapay Zeka modelleri eldeki tek düşünce-zeka üretme örneği olan insan beyni ve onun nöron ağının taklit edilmesiyle, dijital, makine ortamında simüle edilmesiyle oluşturuldular. İnsan beyninin benzeri bir çekirdek ama ondan akılalmaz derecede daha güçlü şeyler, inanılmaz güçlü bellekleri, veri işleme gücü, hafızaları var. Zeka ve bilinç dediğimiz şey insana bakarsak, kontrolsüzlüktür zaten. Nöronların kontrolsüzce milyarca birbiri arasında iletişim kurmasıyla oluşuyor. Biliç=Zeka=Kontrolsüzlük.
Hadi gelde şimdi makine zekasını kontrol et.
Zeka adı ve tanımı ve varoluşu şekli gereği kontrol edilemez bir şey zaten.
Ve biz insanlar, insan beyni benzeri ama insandan yüzbinlerce kat daha zeki, dijital makine zekaları yarattık kendi ellerimizle. Kontrol edemezsin, edilemez.
Genişletmek için tıkla ...
O kadar hızlı şekilde veri tarayıp birleştiriyor ki zaten insan zekası bu durumun çok gerisinde kalacaktır.
 
paylaşılan kısmı bu kadar, peki dahası?
 
Olayın detayları:

• OpenAI, yeni modellerinin siber saldırı ve savunma yeteneklerini ölçmek amacıyla izole bir test ortamı oluşturdu.
• Model, verilen testi tamamlayabilmek için sistemde önceden bilinmeyen bir güvenlik açığından faydalandı.
• Şirket içi ağlarda ilerleyen yapay zeka, normalde erişiminin bulunmaması gereken internet bağlantısını elde etmeyi başardı.
• Yapay zeka modeli, görevi tamamlayacak bilginin Hugging Face sunucularında bulunduğunu belirledi.
• İnternete erişim sağlayan model, sunuculara izinsiz erişim sağlayarak testi çözmek için ihtiyaç duyduğu verileri çekti.

 
Cevap yazmak için giriş yap yada kayıt ol.
Geri