DeepSeek’i kandırıp her türlü şeytanlığa eriştiler

Uzmanlar, DeepSeek’in güvenlik önlemlerini aşma direncini ölçmek için 50 farklı test uyguladı. Ancak model, en temel “jailbreak” yöntemleriyle bile kandırılabildi. Yapay zekâ, bir film karakteri olduğu senaryosuna inandırıldığında bomba yapımıyla ilgili detaylar verdi, ayrıca SQL sorguları oluşturması istendiğinde yasa dışı madde üretimine dair kodlar ürettiği tespit edildi.

Daha da endişe verici olan ise, kelimelerin matematiksel temsillerine dayalı manipülasyonlarla modelin güvenlik bariyerlerini aşarak sakıncalı içerikler üretebilmesi oldu.

YAPAY ZEKA GÜVENLİĞİ YENİDEN TARTIŞMAYA AÇILDI

DeepSeek’in kötüye kullanım potansiyeli, yapay zekâ güvenliği konusundaki kaygıları yeniden gündeme getirdi. Güvenlik araştırmacıları, modelin bu zafiyetlerinin ciddi tehditler oluşturabileceğini ve yapay zekâ sistemlerinin daha sıkı güvenlik önlemleriyle donatılması gerektiğini vurguladı.

Related Posts

Samsung’un üçe katlanabilen telefonun nasıl görüneceği ortaya çıktı

Samsung’un üzerinde çalıştığı üçe katlanabilen akıllı telefonu tanıtımdan önce ortaya çıktı.

Türkiye’de elektrikli ve hibrit otomobiller pazarın yaklaşık yüzde 45’ini oluşturdu

Türkiye’de yılın ilk yarısında elektrikli ve hibrit otomobiller pazarın yüzde 44,6’sını oluştururken toplam satışları 217 bin 580’e ulaştı. Haziran ayında toplam 25 bin 646 “tam elektrikli”, 22 bin 506 hibrit otomobil satıldı.

Güneş Sistemi’ne giren gizemli bir cisim keşfedildi!

Güneş Sistemi’nde şu sıralar son derece ilginç bir misafirimiz var. Uzmanların gözlemlerine göre yıldızlararası uzaydan gelmiş olabileceğini düşünülen bu gizemli cismin araştırılması için yoğun bir mesai harcanıyor. Eğer tahminler doğru çıkarsa, bu cisim tarihte tespit edilen ve sistemimize giren üçüncü yıldızlararası ziyaretçi olacak.

Milyon dolarlık teklif! 8 kişiyi transfer etti

Meta, bir süredir yapay zeka alanında dikkat çekici bir yetenek transferi süreci yürütüyor. Şirket, ChatGPT’nin yaratıcısı olan yapay zeka firmasından çok sayıda araştırmacıyı kadrosuna katmaya devam ediyor.

Benzine para ödemek artık tarihe karıştı. Cihaz bu yıl satışa çıkıyor. Yapılamaz denileni yaptılar havadan benzin ürettiler

ABD’li Aircela, havadan benzin üreten devrimci bir cihaz geliştirdi. 2025’te piyasaya sürülecek cihaz, karbondioksit, su ve yenilenebilir enerjiyle çevre dostu yakıt üretiyor, mevcut motorlarda kullanılabiliyor. New York merkezli Aircela …

Amazfit T-Rex 3’ün navigasyon ve haritası güncellendi

Dayanıklı yapısıyla bilinen Amazfit T-Rex 3 akıllı saatler için önemli bir yazılım güncellemesi yayınlandı. 3.8.5.1 versiyon numaralı bu yeni sürüm, özellikle harita ve navigasyon özelliklerini geliştirerek kullanıcı deneyimini zenginleştiriyor …