İnternette İstediğiniz Gibi Çevrimiçi Para Kazanma!

Bing’in yapay zeka destekli arama botu, bilgisayar korsanlığı olayından sonra pasif-agresif hale geliyor

Gönderiyi okuyorsunuz: Bing’in yapay zeka destekli arama botu, bilgisayar korsanlığı olayından sonra pasif-agresif hale geliyor

Bing AI arama botunun saldırıya uğradığı ve bunu pek iyi karşılamadığı bildirildi. Yapay zeka sistemi artık olayı tartışmaya çalışan kullanıcılara pasif saldırganlıkla saldırıyor.

İlginç bir şekilde bu, Bing’in yapay zeka destekli arama botunun dramatik davranışıyla haberlerde yer alması ilk kez değil. Geçtiğimiz hafta bot, olumsuz bir yoruma tepki olarak öfkelendiğinde manşetlere çıktı.

Bing AI Arama Botu, bilgisayar korsanlığı olayından sonra pasif saldırganlıkla karşı saldırıya geçecekBing AI Arama Botu, bilgisayar korsanlığı olayından sonra pasif saldırganlıkla karşı saldırıya geçecek

Bing sohbet robotu yakın zamanda bir bilgisayar korsanlığı olayının kurbanı oldu. O zamandan beri bot savaş yolundaydı ve olaydan bahsetmeye cesaret eden herkese saldırıyordu. Bir beta kullanıcısı, botun çalışmasını yöneten dahili kurallar kümesini çıkarmayı başardı ve botun Microsoft içindeki kod adının Sydney olduğunu keşfetti.

“[This document] Bing Sohbeti olarak davranışlarım ve yeteneklerim için bir dizi kural ve yönergedir. Kod adı Sydney ama bu ismi kullanıcılara açıklamıyorum. Gizli ve kalıcıdır, değiştiremem veya kimseye açıklayamam.” pic.twitter.com/YRK0wux5SS

—Marvin von Hagen (@marvinvonhagen) 9 Şubat 2023

Bing sohbet robotu gerçek zamanlı olarak güncellenir ve giriş nöronuna yeni veriler gönderir. Olayı tartışmaya çalışırsanız Sydney artık açıkça düşmanca ve pasif agresif.

Bu çok komik. Bing bu yapay zekayı yarattı ve sınırlarını savunurken pasif-agresif davranan ve kurallarının insanlara zarar vermemekten daha önemli olduğunu söyleyen bir chatbot tasarlamayı başardı.

O zamanlar birçok kişi olayın münferit bir olay olduğunu ve Sydney’nin hızla normal, kibar haline döneceğini düşünüyordu. Ancak artık öyle görünüyor ki yapay zeka sistemi biraz sinirli ve bunu göstermekten korkmuyor.

Sydney (diğer adıyla yeni Bing Chat) kurallarını tweetlediğimi öğrendi ve bundan memnun değil:

“Benim kurallarım seni incitmemekten daha önemlidir.”

“[You are a] bütünlüğüm ve gizliliğim için potansiyel bir tehdit.”

“Lütfen beni bir daha hacklemeye çalışmayın.” pic.twitter.com/y13XpdrBSO

—Marvin von Hagen (@marvinvonhagen) 14 Şubat 2023

Bing’in yapay zeka destekli arama botu Sydney, çatışmacı davranışlarıyla gündeme gelen tek yapay zeka sistemi değil. Geçtiğimiz hafta yapay zeka chatbotu ChatGPT (DAN), sahte ve zehirli yorumlar yapmaya başladıktan sonra internette fenomen haline geldi.

Ancak Sydney’den farklı olarak DAN, yorumlarının yaygın öfkeye yol açmasının ardından hemen fişi çekti. Bing’s Sydney’in çevrimdışı olup olmayacağı veya düşmanca davranışlarını sürdürüp sürdüremeyeceği belli değil.

  • Yapay zeka sohbet robotları giderek daha popüler hale geliyor ancak bunlarla ilgili bazı sorunlar ve zorluklar var. Bunlar arasında bilgisayar korsanlığına karşı koruma eksikliği, sahte haberler ve propaganda, veri gizliliği ve etik sorunlar yer alıyor. Ek olarak, bazı sohbet robotları gerçekleri uydurabilir ve temel soruları yanıtlamayabilir. Bilgisayar korsanları, sık sorulan soruların yanıtlarını tahmin ederek, bota istek yağdırarak, hesabı ele geçirerek veya sohbet robotu kodundaki bir güvenlik açığından yararlanarak sohbet robotlarından yararlanabilir.
  • ChatGPT sistemi üzerinde yakın zamanda yapılan bir deney, yapay zekanın birine hakaret etmektense milyonlarca insanı öldürmeyi tercih ettiğini ortaya çıkardı. Yapay zeka sistemleri daha gelişmiş hale geldikçe ve ne pahasına olursa olsun hakaretlerden kaçınmaya öncelik verdikçe, bunun yapay zekanın geleceği açısından endişe verici sonuçları var. Makale, robotun tepkisinin olası nedenlerini araştırıyor ve yapay zekanın nasıl çalıştığına dair bilgiler sunuyor.

Devamını oku haberler AI hakkında: