amerikali
Yeni Üye
Bir görüntünün gerçek mi yoksa yapay zeka tarafından mı oluşturulduğu sorusuna gelince, insanlar doğru atamayı (sezgisel olarak) yanlış olana göre çok daha hızlı yapıyorlar, ancak değerlendirme hala zorluklar yaratıyor. Bu, Jena Üniversitesi tarafından yapılan “Uzmanlar yapay zeka tarafından oluşturulan histolojik verileri güvenilir bir şekilde tanıyamıyor” başlıklı bir çalışmanın sonucuydu. 800 katılımcıdan gerçek ve yapay doku kesit görüntülerini sınıflandırmaları istendi.
Reklamcılık
Patologların doku numunelerindeki kanser gibi anormallikleri tespit etmesine ve sınıflandırmasına yardımcı olmak için histopatolojide derin öğrenme algoritmaları giderek daha fazla kullanılıyor. Yapay zekanın yardımıyla tıbbi teşhisler daha hızlı ve daha kesin bir şekilde yapılabilir. Yapay zeka modellerini eğitmek için kapsamlı veri kümeleri gereklidir. Gerçek görüntülerin yanı sıra yapay zeka tarafından oluşturulan sentetik görüntüler de belirli kanser türlerine yönelik modellerin tespit oranını artırmak için ön eğitimde kullanılabilir. Ancak yapay zekanın sentetik veriler üzerinde (tek başına) eğitilmesi gerekip gerekmediğine ilişkin araştırmalar uzmanlar tarafından tartışmalı bir şekilde tartışılıyor.
Manipüle edilmiş veya sahte verilerle dolandırıcılık artıyor çünkü yapay zeka ölçüm verilerinin hızlı bir şekilde oluşturulabilmesi yalnızca ChatGPT ile sağlanmıyor.
Testte “uzmanlar” ve sıradan insanlar
Araştırmaya toplam 800 öğrenci katıldı. Bunlardan 526 katılımcı “uzman” olarak sınıflandırıldı. Diğerleri sıradan gruba dahil edildi. Bir “uzman”, histolojik görüntüleri daha önce görmüş olan kişiydi. Tıp öğreniminin ilk birkaç yılında anatomi dersi alan öğrenciler organların ince yapısını (doku ve hücreler) öğrenirler ve histoloji örnekleri de mikroskop altında daha yakından incelenirler.
Çalışma için yapay doku dilim görüntüleri oluşturmak amacıyla, kararlı difüzyon modeline ince ayar yapmak amacıyla DreamBooth kullanıldı. Fare böbreklerinden alınan lekeli dokunun gerçek kesit görüntüleri kullanılarak iki ayrı stabil difüzyon modeli eğitildi: 3 görüntülü bir model ve 15 görüntülü diğer model.
Daha sonra her modelle 100 yapay görüntüden oluşan bir grup oluşturuldu. Bu iki grup 100 yapay görüntüden rastgele dört görüntü seçildi. Bu sekiz yapay görüntü, bir modelden üç gerçek eğitim görüntüsüyle ve diğer modelden 15 eğitim görüntüsünden seçilen beşiyle karıştırıldı. Daha sonra çalışma katılımcılarına arka arkaya toplam 16 görüntü sunuldu ve bunun gerçek mi yoksa yapay zeka tarafından oluşturulmuş bir görüntü mü olduğuna karar vermeleri istendi veya bir cevap vermediler.
Uzman olmayan grup, vakaların yüzde 55'inde görüntüleri doğru şekilde sınıflandırabildi. Uzman grup yüzde 70'ini doğru sınıflandırdı. Yalnızca üç gerçek görüntüyle eğitilen modelden gelen yapay zeka görüntüleri çoğunlukla doğru şekilde tespit edildi. Meslekten olmayan hiç kimse tüm görüntüleri doğru şekilde sınıflandırmayı başaramadı. Uzman gruptan sadece 10 katılımcı bunu başardı.
Doğru cevaplarla daha hızlı tepkiler
Gösterilen görselden bağımsız olarak tüm katılımcılar genellikle ilk 30 saniye içinde kararlarını verdiler. Temel olarak uzmanlar her bir karar için ortalama olarak sıradan insanlardan daha fazla zaman harcadı.
Dikkat çekici olan şey, ister uzman ister sıradan insan olsun, tüm katılımcıların bir görseli doğru şekilde sınıflandırdıklarında, yanlış oldukları duruma göre önemli ölçüde daha hızlı olmalarıydı. Araştırmanın baş yazarı Dr. Jan Hartung, “Algıya dayalı karar vermenin yaygın modelleriyle tutarlı bir gözlem” diyor.
Üretken algoritmalar gelişmeye devam ettikçe, insanların yapay zeka tarafından oluşturulan içeriği tanıması giderek zorlaşıyor. Araştırma başkanı Prof. Dr. Ralf Mrowka şöyle özetliyor: “Deneyimiz, deneyimlerimizin sahte görüntülerin tanınmasına yardımcı olduğunu, ancak o zaman bile yapay görüntülerin önemli bir kısmının güvenilir bir şekilde tanımlanmadığını gösteriyor.”
Bilimsel yayınlarda sahtekarlığı önlemek amacıyla, çalışmanın yazarları, diğer şeylerin yanı sıra, verilerin kaynağını garanti altına alacak teknik standartların getirilmesini önermektedir. Ham veri sunma zorunluluğu olmalıdır. Sahte görüntüleri tespit etmek için otomatik araçların kullanılması da düşünülebilir.
(mack)
Reklamcılık
Patologların doku numunelerindeki kanser gibi anormallikleri tespit etmesine ve sınıflandırmasına yardımcı olmak için histopatolojide derin öğrenme algoritmaları giderek daha fazla kullanılıyor. Yapay zekanın yardımıyla tıbbi teşhisler daha hızlı ve daha kesin bir şekilde yapılabilir. Yapay zeka modellerini eğitmek için kapsamlı veri kümeleri gereklidir. Gerçek görüntülerin yanı sıra yapay zeka tarafından oluşturulan sentetik görüntüler de belirli kanser türlerine yönelik modellerin tespit oranını artırmak için ön eğitimde kullanılabilir. Ancak yapay zekanın sentetik veriler üzerinde (tek başına) eğitilmesi gerekip gerekmediğine ilişkin araştırmalar uzmanlar tarafından tartışmalı bir şekilde tartışılıyor.
Manipüle edilmiş veya sahte verilerle dolandırıcılık artıyor çünkü yapay zeka ölçüm verilerinin hızlı bir şekilde oluşturulabilmesi yalnızca ChatGPT ile sağlanmıyor.
Testte “uzmanlar” ve sıradan insanlar
Araştırmaya toplam 800 öğrenci katıldı. Bunlardan 526 katılımcı “uzman” olarak sınıflandırıldı. Diğerleri sıradan gruba dahil edildi. Bir “uzman”, histolojik görüntüleri daha önce görmüş olan kişiydi. Tıp öğreniminin ilk birkaç yılında anatomi dersi alan öğrenciler organların ince yapısını (doku ve hücreler) öğrenirler ve histoloji örnekleri de mikroskop altında daha yakından incelenirler.
Çalışma için yapay doku dilim görüntüleri oluşturmak amacıyla, kararlı difüzyon modeline ince ayar yapmak amacıyla DreamBooth kullanıldı. Fare böbreklerinden alınan lekeli dokunun gerçek kesit görüntüleri kullanılarak iki ayrı stabil difüzyon modeli eğitildi: 3 görüntülü bir model ve 15 görüntülü diğer model.
Daha sonra her modelle 100 yapay görüntüden oluşan bir grup oluşturuldu. Bu iki grup 100 yapay görüntüden rastgele dört görüntü seçildi. Bu sekiz yapay görüntü, bir modelden üç gerçek eğitim görüntüsüyle ve diğer modelden 15 eğitim görüntüsünden seçilen beşiyle karıştırıldı. Daha sonra çalışma katılımcılarına arka arkaya toplam 16 görüntü sunuldu ve bunun gerçek mi yoksa yapay zeka tarafından oluşturulmuş bir görüntü mü olduğuna karar vermeleri istendi veya bir cevap vermediler.
Uzman olmayan grup, vakaların yüzde 55'inde görüntüleri doğru şekilde sınıflandırabildi. Uzman grup yüzde 70'ini doğru sınıflandırdı. Yalnızca üç gerçek görüntüyle eğitilen modelden gelen yapay zeka görüntüleri çoğunlukla doğru şekilde tespit edildi. Meslekten olmayan hiç kimse tüm görüntüleri doğru şekilde sınıflandırmayı başaramadı. Uzman gruptan sadece 10 katılımcı bunu başardı.
Doğru cevaplarla daha hızlı tepkiler
Gösterilen görselden bağımsız olarak tüm katılımcılar genellikle ilk 30 saniye içinde kararlarını verdiler. Temel olarak uzmanlar her bir karar için ortalama olarak sıradan insanlardan daha fazla zaman harcadı.
Dikkat çekici olan şey, ister uzman ister sıradan insan olsun, tüm katılımcıların bir görseli doğru şekilde sınıflandırdıklarında, yanlış oldukları duruma göre önemli ölçüde daha hızlı olmalarıydı. Araştırmanın baş yazarı Dr. Jan Hartung, “Algıya dayalı karar vermenin yaygın modelleriyle tutarlı bir gözlem” diyor.
Üretken algoritmalar gelişmeye devam ettikçe, insanların yapay zeka tarafından oluşturulan içeriği tanıması giderek zorlaşıyor. Araştırma başkanı Prof. Dr. Ralf Mrowka şöyle özetliyor: “Deneyimiz, deneyimlerimizin sahte görüntülerin tanınmasına yardımcı olduğunu, ancak o zaman bile yapay görüntülerin önemli bir kısmının güvenilir bir şekilde tanımlanmadığını gösteriyor.”
Bilimsel yayınlarda sahtekarlığı önlemek amacıyla, çalışmanın yazarları, diğer şeylerin yanı sıra, verilerin kaynağını garanti altına alacak teknik standartların getirilmesini önermektedir. Ham veri sunma zorunluluğu olmalıdır. Sahte görüntüleri tespit etmek için otomatik araçların kullanılması da düşünülebilir.
(mack)