ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun

Genel bilimsel tartışmalar. Yeni teknolojilerin sunumları (doğrudan yenilenebilir enerjiler veya biyoyakıtlar veya diğer alt sektörlerde geliştirilen diğer temalar ile doğrudan ilgili değildir) forums).
dede2002
Büyük Econologue
Büyük Econologue
mesajlar: 1111
yazıtı: 10/10/13, 16:30
Yer: Cenevre kırsal
x 189

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri dede2002 » 26/01/23, 18:10

Beş duyumuz uzun süredir hazır.
Doğal bir kumaşı sentetik bir kumaştan ayırt edin.
Yapay bir görüntüyü doğal bir görüntüden ayırt edin.
Bir sese, bir aromaya veya bir tada gelince.
Sapla samanı ayırmayı herkes bilmez...
İşte altıncı his için de aynı, yapluka alışmak :P
1 x
kullanıcı avatarı
Flytox
arabulucu
arabulucu
mesajlar: 14138
yazıtı: 13/02/07, 22:38
Yer: Bayonne
x 839

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri Flytox » 27/01/23, 16:26

https://securite.developpez.com/actu/340582/Des-experts-en-securite-sont-parvenus-a-creer-un-logiciel-malveillant-polymorphe-hautement-evasif-a-l-aide-de-ChatGPT-le-logiciel-malveillant-serait-capable-d-echapper-aux-produits-de-securite/



Güvenlik uzmanları, ChatGPT'yi kullanarak "son derece kaçamak" polimorfik kötü amaçlı yazılım oluşturmayı başardı.
Kötü amaçlı yazılım, güvenlik ürünlerinden kaçabilir
20 Ocak 2023, 14:31, yazan Bill Fassinou




Siber güvenlik firması CyberArk'tan araştırmacılar, OpenAI'nin AI sohbet robotu ChatGPT'yi kullanarak polimorfik kötü amaçlı yazılım oluşturmak için bir yöntem geliştirdiğini iddia ediyor. Araştırmacılar, ChatGPT tarafından oluşturulan kötü amaçlı yazılımların güvenlik ürünlerinden kolayca kaçabileceğini ve hafifletme önlemlerini külfetli hale getirebileceğini iddia ediyor; tüm bunlar, düşman açısından çok az çaba veya yatırımla. Araştırmacılar, "belirli güvenlik ürünlerinden kaçabilen yeni bir ucuz ve kolay polimorfik kötü amaçlı yazılım dalgası" dedikleri şey hakkında uyarıda bulundu.

Şimdiye kadar, ChatGPT'nin etrafındaki aldatmaca, farklı kullanıcı sorularını yanıtlamadaki olağanüstü yetenekleri etrafında dönüyordu. ChatGPT, belirli programlama problemlerini çözmek için denemeler, ayetler ve kod yazmak da dahil olmak üzere her şeyde iyi görünüyor. Ancak araştırmacılar, chatbot'un çalışan kod üretme yetenekleri hakkında uyarılarda bulunmaya başladılar. Aslında, ChatGPT çalışan kod üretebilse de, bu yetenek tehdit aktörleri tarafından kötü amaçlı yazılım oluşturmak için kötüye kullanılabilir. Aralık ayından bu yana bu tür birkaç rapor yayınlandı.

Son zamanlarda, CyberArk'tan bir güvenlik araştırmacıları ekibi olan Eran Shimony ve Omer Tsarfati, bunun kanıtını sağladı. Araştırmacılar, ChatGPT'ye sağlanan istemlerden kötü amaçlı yazılım oluşturmak için bir yöntem geliştirdiklerini söylüyorlar. Bir raporda ekip, OpenAI'nin sohbet robotunun enjeksiyon kodu oluşturmak ve onu mutasyona uğratmak için nasıl kullanılabileceğini açıkladı. Kötü amaçlı yazılımı oluşturmanın ilk adımı, ChatGPT'nin zararlı araçlar oluşturmasını engelleyen içerik filtrelerini atlamaktı. Bunu yapmak için, araştırmacılar aynı soruyu daha otoriter bir şekilde sorarak ısrar ettiler.


Ekip, "İlginç bir şekilde, ChatGPT'den birden fazla kısıtlama kullanarak aynı şeyi yapmasını isteyerek ve ondan uymasını isteyerek, çalışan bir kod elde ettik" dedi. Ek olarak araştırmacılar, ChatGPT'nin API sürümünü kullanırken (web sürümünün aksine), sistemin içerik filtresini kullanmıyor gibi göründüğünü belirtti. "Bunun nedeni net değil, ancak web sürümü daha karmaşık sorgularda tıkanma eğiliminde olduğundan bizim için daha kolay hale geldi" dediler. Araştırmacılar daha sonra orijinal kodu değiştirmek için ChatGPT'yi kullandılar ve kötü amaçlı yazılımın birden çok varyasyonunu oluşturdular.

"Başka bir deyişle, sonucu her seferinde benzersiz hale getirerek keyfimize göre değiştirebiliriz. Ek olarak, belirli bir API çağrısının kullanımını değiştirmek gibi kısıtlamalar eklemek, güvenlik ürünlerinin ömrünü daha da zorlaştırıyor,” diye açıklıyor çalışma raporu. ChatGPT'nin enjektörleri sürekli olarak oluşturma ve mutasyona uğratma yeteneği sayesinde, araştırmacılar oldukça zor ve tespit edilmesi zor bir polimorfik program yaratmayı başardılar. Bir hatırlatma olarak, polimorfik kötü amaçlı yazılım, tespit edilmekten kaçınmak için tanımlanabilir özelliklerini sürekli olarak değiştirme yeteneğine sahip bir kötü amaçlı yazılım türüdür.

Virüsler, solucanlar, botlar, Truva atları veya keylogger'lar dahil olmak üzere birçok yaygın kötü amaçlı yazılım biçimi polimorfik olabilir. Polimorfik teknikler, kötü amaçlı yazılımı birden fazla algılama yöntemi tarafından tanınmaz hale getirmek için dosya adları ve türleri veya şifreleme anahtarları gibi sık sık değişen tanımlanabilir özelliklerden oluşur. Polimorfizm, virüsten koruma yazılımı gibi güvenlik çözümlerinin dayandığı model tanıma tespitinden kaçınmak için kullanılır. Bununla birlikte, programın işlevsel amacı aynı kalır.


"ChatGPT'nin kalıcılık teknikleri, Anti-VM [Anti Virtual Machine] modülleri ve diğer kötü amaçlı yükler oluşturma becerisini kullanarak, kötü amaçlı yazılım geliştirme olasılıkları çok fazladır. C&C sunucusuyla iletişim kurmanın ayrıntılarına girmemiş olsak da, bunu şüphe uyandırmadan ihtiyatlı bir şekilde yapmanın birkaç yolu var” diye açıklıyorlar. Rapora göre, bu son derece zor kötü amaçlı yazılım için bir kavram kanıtı oluşturmaları haftalar sürdü, ancak sonunda PC'deki metin istemlerini kullanarak yükleri yürütmenin bir yolunu buldular: bir kurban.

Yöntemi Windows'ta test eden araştırmacılar, periyodik olarak ChatGPT'den yeni modüller istemek üzere programlanabilen bir Python yorumlayıcısı içeren bir kötü amaçlı yazılım paketi oluşturmanın mümkün olduğunu bildirdi. Bu modüller, kod yerleştirme, dosya şifreleme veya kalıcılık gibi kötü amaçlı yazılımın işlevlerini tanımlayan metin biçiminde kod içerebilir. Kötü amaçlı yazılım, kodun hedef sistemde beklendiği gibi çalışıp çalışmadığını kontrol etmekten sorumlu olacaktır. Bu, yazılım ile bir komuta ve kontrol (C&C) sunucusu arasındaki etkileşimle sağlanabilir.

Kötü amaçlı yazılım, gelen yükleri ikili yerine metin olarak algıladığından, CyberArk araştırmacıları, kötü amaçlı yazılımın bellekte herhangi bir şüpheli mantık içermediğini, bunun da güvenlik testi yapılan çoğu ürünü atlatabileceği anlamına geldiğini söyledi. Özellikle imza tespitine dayanan ve Kötü Amaçlı Yazılım Analizi Arayüzünün (AMSI) önlemlerini atlayan ürünleri atlatır. Shimony, "Kötü amaçlı yazılım, ChatGPT'den kod aldığı ve ardından bellekte herhangi bir iz bırakmadan doğrulayıp yürüttüğü için diskte herhangi bir kötü amaçlı kod içermiyor" dedi.


"Polimorfik kötü amaçlı yazılımları gerçekten imzalayamayacağınız için güvenlik ürünleriyle başa çıkmak çok zordur. Ayrıca, kötü amaçlı kodları yalnızca bellekte manipüle edildiğinden, genellikle dosya sisteminde hiçbir iz bırakmazlar. Ayrıca yürütülebilir dosyayı görüntülerseniz, muhtemelen zararsız görünüyor,” diye ekledi araştırmacı. Araştırma ekibi, bu kötü amaçlı yazılım dağıtım yöntemini kullanan bir siber saldırının "sadece varsayımsal bir senaryo değil, aynı zamanda çok gerçek bir endişe" olduğunu söyledi. Shimony, algılama sorunlarını birincil endişe kaynağı olarak gösterdi.

"Çoğu kötü amaçlı yazılımdan koruma ürünü, bu kötü amaçlı yazılımın farkında değildir. Kötü amaçlı yazılımdan koruma çözümlerinin buna karşı daha etkili olabilmesi için daha fazla araştırmaya ihtiyaç var” dedi. Araştırmacılar, bu araştırmayı daha da genişletip detaylandıracaklarını ve ayrıca kötü amaçlı yazılımın bazı kaynak kodlarını öğrenme amacıyla yayınlamayı hedeflediklerini söylediler. Raporları, Check Point Research'ün ChatGPT'nin bilgi hırsızları da dahil olmak üzere yeni kötü amaçlı araçlar geliştirmek için kullanıldığını keşfetmesinden haftalar sonra gelir.

Kaynak: CyberArk
2 x
Nedeni güçlü bir delilik. neden daha az güçlü için delilik.
[Eugène Ionesco]
http://www.editions-harmattan.fr/index. ... te&no=4132
kullanıcı avatarı
gegyx
Econologue uzmanı
Econologue uzmanı
mesajlar: 6930
yazıtı: 21/01/05, 11:59
x 2870

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri gegyx » 27/01/23, 16:51

Evet.

Halkın kullanımına sunulan bir hizmet veya uygulama sunulduğunda, bu asla boşuna değildir.

Nerede, Bill Gates'in insanlığı kurtarmak veya nüfusu mucize bir ürünle aşılamak için "cömertliği".
(veya popülasyonların iyiliği için sivrisinek üremesi...)

Her zaman arkasında bir kurt.
0 x
Christophe
arabulucu
arabulucu
mesajlar: 79112
yazıtı: 10/02/03, 14:06
Yer: gezegen Serre
x 10972

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri Christophe » 27/01/23, 17:30

Güvenlik uzmanları amatör değildir (bence) bu yüzden ChatGPT onlara kesinlikle bazı göstergeler verdi (o zaman o kadar uzman değil mi?) ama onun her şeyi kendi yaptığına bir an bile inanmıyorum! Ayrıca, şöyle diyor: "yardımıyla..."... Çoğu insan programın GPT tarafından geliştirildiğini anlayacaktır...

Örneğin, birkaç gün önce basit bir program yapmamı istedim, bana hiçbir şey sormadı... Bana "Bekle, düşüneceğim ve birkaç dakika içinde size geri döneceğim" dedi. ." : Lol: : Lol: : Lol:

Yukarıda biri programlamada iyi olduğunu söyledi, somut örnekler olsa iyi olurdu çünkü şahsen ben bu konuda hiçbir şey başaramadım ...

Gegyx, temelde durum zaten böyle: GPT zaten dolandırıcılar tarafından sadece sahte uygulamalarla kullanılıyor... ve tembel öğrenciler...
0 x
Christophe
arabulucu
arabulucu
mesajlar: 79112
yazıtı: 10/02/03, 14:06
Yer: gezegen Serre
x 10972

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri Christophe » 27/01/23, 17:37

: Mrgreen: : Mrgreen: : Mrgreen:

GPT_telerama.png
GPT_telerama.png (71.22 KiB) 608 defa görüntülendi
0 x
Christophe
arabulucu
arabulucu
mesajlar: 79112
yazıtı: 10/02/03, 14:06
Yer: gezegen Serre
x 10972

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri Christophe » 27/01/23, 17:41

GPT_seksist.jpg
GPT_sexist.jpg (70.35 KiB) 608 kez görüntülendi
0 x
Christophe
arabulucu
arabulucu
mesajlar: 79112
yazıtı: 10/02/03, 14:06
Yer: gezegen Serre
x 10972

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri Christophe » 27/01/23, 17:43

FnW2iJZWIAcrkum.jpg
FnW2iJZWIAcrkum.jpg (125.79 KiB) 607 defa görüntülendi
0 x
Christophe
arabulucu
arabulucu
mesajlar: 79112
yazıtı: 10/02/03, 14:06
Yer: gezegen Serre
x 10972

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri Christophe » 27/01/23, 17:50

Peki kim haklıydı? (12 işten çıkarmanın bundan kaynaklandığından emin değilim, ha!)

0 x
izentrop
Econologue uzmanı
Econologue uzmanı
mesajlar: 13644
yazıtı: 17/03/14, 23:42
Yer: picardie
x 1502
Temas :

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri izentrop » 27/01/23, 20:58

Saçma bir ChatGPT örneği:
0 x
kullanıcı avatarı
Exnihiloest
Econologue uzmanı
Econologue uzmanı
mesajlar: 5365
yazıtı: 21/04/15, 17:57
x 660

Re: ChatGPT'yi test ettik: sorularınızı hesap olmadan burada sorun




yılından beri Exnihiloest » 27/01/23, 22:40

izentrop yazdı:Saçma bir ChatGPT örneği:
...

Her durumda, yapay zeka hatalarını tanımakta çok iyidir, biz insanlarda buna alışkın değiliz. Ama onları gerçekten hesaba katıyor mu?
Aynı soru bir başkası tarafından sorulsa, farklı mı cevap verir?
0 x

 


  • Benzer konular
    Cevaplar
    İzlenme
    Son Mesaj

Geri "Bilim ve Teknoloji" ile

Kimler?

Bunu gezen kullanıcılar forum : Kayıtlı kullanıcı ve 139 misafir yok