DeepSeek’i kandırıp her türlü şeytanlığa eriştiler

Uzmanlar, DeepSeek’in güvenlik önlemlerini aşma direncini ölçmek için 50 farklı test uyguladı. Ancak model, en temel “jailbreak” yöntemleriyle bile kandırılabildi. Yapay zekâ, bir film karakteri olduğu senaryosuna inandırıldığında bomba yapımıyla ilgili detaylar verdi, ayrıca SQL sorguları oluşturması istendiğinde yasa dışı madde üretimine dair kodlar ürettiği tespit edildi.

Daha da endişe verici olan ise, kelimelerin matematiksel temsillerine dayalı manipülasyonlarla modelin güvenlik bariyerlerini aşarak sakıncalı içerikler üretebilmesi oldu.

YAPAY ZEKA GÜVENLİĞİ YENİDEN TARTIŞMAYA AÇILDI

DeepSeek’in kötüye kullanım potansiyeli, yapay zekâ güvenliği konusundaki kaygıları yeniden gündeme getirdi. Güvenlik araştırmacıları, modelin bu zafiyetlerinin ciddi tehditler oluşturabileceğini ve yapay zekâ sistemlerinin daha sıkı güvenlik önlemleriyle donatılması gerektiğini vurguladı.

Related Posts

Milyon dolarlık teklif! 8 kişiyi transfer etti

Meta, bir süredir yapay zeka alanında dikkat çekici bir yetenek transferi süreci yürütüyor. Şirket, ChatGPT’nin yaratıcısı olan yapay zeka firmasından çok sayıda araştırmacıyı kadrosuna katmaya devam ediyor.

Benzine para ödemek artık tarihe karıştı. Cihaz bu yıl satışa çıkıyor. Yapılamaz denileni yaptılar havadan benzin ürettiler

ABD’li Aircela, havadan benzin üreten devrimci bir cihaz geliştirdi. 2025’te piyasaya sürülecek cihaz, karbondioksit, su ve yenilenebilir enerjiyle çevre dostu yakıt üretiyor, mevcut motorlarda kullanılabiliyor. New York merkezli Aircela …

Amazfit T-Rex 3’ün navigasyon ve haritası güncellendi

Dayanıklı yapısıyla bilinen Amazfit T-Rex 3 akıllı saatler için önemli bir yazılım güncellemesi yayınlandı. 3.8.5.1 versiyon numaralı bu yeni sürüm, özellikle harita ve navigasyon özelliklerini geliştirerek kullanıcı deneyimini zenginleştiriyor …

YouTube Music’ten ücretsiz kullanıcıları için yeni reklam formatı

YouTube Music kullanıcıları, artık ücretsiz sürümde daha fazla reklamla karşılaşacak. Google, platformun gelir modelini çeşitlendirmek amacıyla yeni bir reklam formatını devreye aldı. Ücretsiz sürümü kullanan dinleyiciler, müzik dinlerken albüm kapağının yerini alan yeni bir reklam türüyle karşılaşacaklar.

E-ticarette satış hacmi 3 trilyon TL’ye ulaştı

Bu yıl dördüncüsü yayımlanan Türkiye E-Ticaret Ekosistemi Raporuna göre e-ticaret üzerinden yapılan alışverişlerde yaygın olarak kart kullanımı tercih edilse de dijital cüzdanların da ivme kazandığı bir döneme girildiği belirtildi. Raporda ayrıca Ticaret Bakanlığı verilerine göre, e-ticaret satış hacminin 2024 yılında yüzde 61,7’lik artışla 3 trilyon TL seviyesine ulaştığı vurgulandı.

Meta’dan 16 yaş altı için devreye alınan uygulama

Meta Türkiye ve Azerbaycan Kamu Politikaları Direktörü Sezen Yeşil, internette gençleri olumsuzluklara karşı korumak adına “Genç Hesapları” uygulamasını devreye aldıklarını belirtti.