• BIST 10771.36
  • Altın 2493.09
  • Dolar 32.7826
  • Euro 35.0775
  • Bursa 32 °C
  • İstanbul 29 °C
  • Ankara 32 °C

Yapay zeka yoldan çıkarsa ne olur?

Yapay zeka yoldan çıkarsa ne olur?
Yapay zeka fiziksel zarar verme ve gerçek dünyayı etkileme yeteneğini kazanmaya başladı...

Yapay zekanın (AI) okul ödevleri için basit sohbet sorularını yanıtlamasını, New York metrosundaki silahları tespit etmeye çalışmasını gördük; haberdar olduk.

Şimdi ise deepfake ile çocuk cinsel istismar içeriği oluşturmak için kullanan bir suçlunun mahkumiyetinde suç ortağı olarak görülmesine şahit olduk.  Dijital güvenlik şirketi ESET, yapay zeka ilerlemeye devam ederken yanlış yöne gitmesini önlemek için yapılan çalışmaları inceledi, dikkat edilmesi gerekenleri paylaştı. 

ESET, yapay zekayı güvenlik bağlamında yıllardır kullanıyor. Kısmen kritik şeyleri yanlış anladığı için yapay zekanın sihirli bir değnek olmadığı konusunda uyarılarını paylaşmıştı.  Bununla birlikte "sadece ara sıra" kritik şeyleri yanlış yapan güvenlik yazılımları, güvenlik ekiplerinin gereksiz yere çabalamasını tetikleyen devasa yanlış pozitifler yayarak ya da yapay zekanın zaten bildiği kötü amaçlı yazılımlardan "yeterince farklı" görünen kötü amaçlı bir saldırıyı gözden kaçırarak oldukça olumsuz bir etkiye sahip olacaktır. Bu nedenle kontrol ve denge sağlamak için ESET yapay zekayı bir dizi başka teknolojiyle katmanlandırıyor. Bu şekilde eğer yapay zekanın cevabı dijital halüsinasyona benziyorsa onu diğer teknoloji yığınıyla birlikte geri çekebiliyor.

Düşmanlar çok fazla saf AI saldırısı başlatmamış olsa da özellikle kimlik avı ve şimdi de sosyal mühendislik çabalarını süper boyuta taşımak için kimlik avından ses ve görüntü klonlamada daha etkili olmak adına saldırı zincirindeki bağlantıları otomatikleştiren düşmanca AI'yi akla getirmek gerekir. Kötü aktörler dijital olarak güven kazanıp yapay zeka tarafından oluşturulan verileri kullanarak sistemleri kimlik doğrulaması yapmaları için kandırabilirse bu, kuruluşunuza girmek ve özel istismar araçlarını manuel olarak başlatmak için yeterlidir. Bunu durdurmak için satıcılar çok faktörlü kimlik doğrulama katmanını kullanabilir. Böylece saldırganların sadece bir ses veya parola yerine birden fazla kimlik doğrulama yöntemine ihtiyacı olur. Bu teknoloji şu anda yaygın olarak kullanılıyor olsa da kullanıcılar tarafından yeterince tercih edilmiyor. Bu, kullanıcıların kendilerini ağır bir yük veya büyük bir bütçe olmadan koruyabilmelerinin basit bir yoludur.

Bütün suç yapay zekanın mı?

Yapay zeka mı hatalı? AI’nin yanlış anlamasının gerekçesi sorulduğunda insanlar esprili bir şekilde "karmaşık" yanıtını veriyordu. Ancak AI fiziksel zarar verme ve gerçek dünyayı etkileme yeteneğine yaklaştıkça bu artık tatmin edici ve yeterli bir yanıt olmamaya başladı. Örneğin, AI destekli sürücüsüz bir araba kaza yaparsa "sürücü" mü ceza alır yoksa üretici mi? Bu, ne kadar karmaşık ve anlaşılmaz olursa olsun bir mahkemeyi tatmin edecek bir açıklama değil.

Peki ya gizlilik? GDPR kurallarının, mahremiyet merceğinden bakıldığında teknolojinin vahşileşmesini engellediğini gördük. Elbette AI'den türetilmiş, dilimlenmiş ve doğranmış orijinal eserlerin kazanç için türevler üretmesi mahremiyet ruhuna aykırıdır ve bu nedenle koruyucu yasaları tetikleyecektir. Ancak AI'nin türev olarak kabul edilmesi için tam olarak ne kadarını kopyalaması gerekir ve mevzuatı atlatacak kadar kopyalarsa ne olur? Ayrıca yasal olarak daha iyi test edilmesi yıllar alacak yetersiz içtihat hukuku ile bunu mahkemede kim, nasıl kanıtlayacak? Gazete yayıncılarının Microsoft ve OpenAI'ye, makalelerin yüksek teknolojiyle kaynak gösterilmeden yeniden üretildiğini düşündükleri için dava açtıklarını görüyoruz; davanın sonucu merak konusu, belki de gelecekteki yasal işlemlerin bir habercisi olacak. 

AI bir araç ve genellikle iyi bir araç ancak büyük güç büyük sorumluluk getirir. Şu anda AI sağlayıcılarının sorumluluğu, yeni bulduğumuz gücün kötüye gitmesi durumunda olabileceklerin çok gerisinde kalıyor.

  • Yorumlar 0
  • Facebook Yorumları 0
    UYARI: Küfür, hakaret, rencide edici cümleler veya imalar, inançlara saldırı içeren, imla kuralları ile yazılmamış,
    Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.
    Bu habere henüz yorum eklenmemiştir.
Diğer Haberler
  • İş dünyasında yeni kriz12 Haziran 2024 Çarşamba 12:45
  • Elektronik teknolojilerinde yeni trend12 Haziran 2024 Çarşamba 11:44
  • Siber güvenlik spot ışığı altında12 Haziran 2024 Çarşamba 09:14
  • Kimlik bilgilerini sızdırmamanın yolları07 Haziran 2024 Cuma 13:43
  • Yerli ve milli şirketlere hayati uyarı06 Haziran 2024 Perşembe 13:18
  • Bungalov, kiralayacaklar dikkat05 Haziran 2024 Çarşamba 12:05
  • Dolandırıcılar otelleri hedef aldı05 Haziran 2024 Çarşamba 11:10
  • Yapay zeka ne kadar dost olacak?03 Haziran 2024 Pazartesi 10:59
  • Şifrelerimizi nasıl güvende tutarız?30 Mayıs 2024 Perşembe 08:47
  • Dijital sağlıkta akla yapay zeka geliyor28 Mayıs 2024 Salı 11:52
  • Tüm Hakları Saklıdır © 2015 Bursa Bakış | İzinsiz ve kaynak gösterilmeden yayınlanamaz.
    Tel : 0224. 408 35 78- Haber İhbar Hattı: 0544.201 80 43 Faks : 0224.408 35 78