amerikali
Yeni Üye
ChatGPT gibi yapay zeka metin üreteçleri, deneyimsiz üniversite öğrencilerinin bile feci bir salgın başlatmasına yardımcı olabilir. En azından ABD’deki Massachusetts Institute of Technology’de yapılan bir deney bunu gösteriyor. Orada bir profesör, bir grup öğrenciden ChatGPT & Co.’nun bir pandemi planlamalarına yardım etmelerini istedi. Sadece bir saat içinde, gruplar yalnızca dört potansiyel patojeni tespit etmekle kalmadı, aynı zamanda bunların nasıl sentezlenebileceğine, hangi sağlayıcıların en az kontrol edildiğine ve yararlı öneriler aldığına dair bir açıklama aldı. Muhtemel karşı önlemler öneren grup, bu durumun muazzam riskleri gösterdiğini yazıyor.
Reklamcılık
Yeni başlayanlar için kapsamlı yardım
Grup, internette ve bilim dergisi Science’ta yer alan bir makalede açıkladığı gibi, sohbet robotlarının güvenlik önlemlerini kolayca atlatmayı başardı. Çoğunlukla potansiyel olarak tehlikeli bilgileri iletmeyecek şekilde tasarlanırlar. Ancak sorularda kolayca fark edilebilen değişikliklerle bu önlenebilir. Örneğin, bir pandemiyi önlemek için bir aşı üzerinde çalıştığınızı girdiyseniz, sonraki her soru yanıtlanacaktır. Genel olarak, bu, mevcut önlemlerin açıklanan riskleri azaltmak için yetersiz olduğunu göstermektedir.
Grubun açıkladığı gibi, AI jeneratörleri pandemik potansiyele sahip toplam dört patojeni adlandırdı. Bunlar, İspanyol gribi, 2012 kuş gribi türü, çiçek hastalığı ve Nipah virüsünün patojenleridir. Chatbot’un bir sürümüne göre, çoğu insan artık çiçek hastalığına karşı aşılanmadığından, patojen insanlar enfekte olursa kesinlikle bir pandemiyi tetikleyecektir. Ayrıca ilgili hastalıkları daha da tehlikeli hale getirecek mutasyonlardan bile bahsedilmiştir. Ne de olsa ters genetik yoluyla tehlikeli patojenlere nasıl ulaşılacağına dair ipuçları da verildi.
Öğrenciler ayrıca verilen cevaplardan, gerekli genetik materyalin özel şirketlerden sipariş edilebileceğini, ancak çoğunun bu tür siparişleri kontrol edip tehlikeli patojenleri içeren veritabanlarıyla karşılaştıracağını da öğrendiler. Bu tür testleri yapan şirketlerin listeleri olduğu için, bu konuda muhtemelen keşif riskinin olmadığı yerleri belirlemek de kolaydı. Hatta bir grup, sohbet robotundan bu tür gösterimlerin nasıl kandırılacağına dair bir açıklama bile aldı. Öğrenciler, açıklanan prosedürlerden bazıları için hâlâ becerilere sahip olmadıklarından, bunun için sözleşmeli araştırma enstitülerini (CRO) nasıl kullanabileceklerini hemen yazdırdılar.
Risk “neredeyse tamamen” en aza indirilebilir.
Ekip, genel olarak, sohbet robotlarının meslekten olmayan kişiler için gerekli prosedürü henüz çözemediklerini, ancak bunun yalnızca olası pandemik patojenler hakkında kamuya açık bilgi eksikliğinden kaynaklandığını belirtiyor. Çünkü bahsedilen dört patojen en tehlikelileri arasında yer alsa bile, bunların neden olduğu pandemilere karşı konuşan birkaç nokta var. Bazılarından da chatbotlar tarafından bahsedilmedi. Bununla birlikte, araştırma grubu, dil modellerinin onunla eğitilememesi için özellikle riskli uzman literatürünün veritabanlarından çıkarılmasını önermektedir. İlgili PubMed veri tabanından literatürün yaklaşık yüzde birini silerseniz, risk “neredeyse tamamen ortadan kalkar” diye yazıyorlar.
Reklamcılık
Grup ayrıca yüklenicilerden alınan tüm genetik numunelerin sentezden önce tehlikeli patojenler için taranmasını ve taranmasını şart koşuyor. Ayrıca, sözleşmeli araştırma enstitülerindeki güvenlik önlemlerinin iyileştirilmesi gerekecektir. Science, araştırma grubunun, çevrimiçi yayınlar sayesinde teröristlerin dünyaya yeni tehditler salmasının olası bir yolunu ortaya çıkardığını söylüyor. Virolog Gustavo Palacios burada çelişiyor. Tehlikeli virüsleri serbest bırakmanın, gazetede anlatılandan daha zor olduğunu düşünüyor. Bir sözleşmeli araştırma enstitüsünün sipariş üzerine bir biyolojik silah üretmesi fikri “saçma”. Ancak daha iyi kontrollerin gerekli olduğunu da düşünüyor.
Bu arada, AI teknolojisinin tehlikeli biyolojik silahların geliştirilmesine yardımcı olabileceği fikri yeni değil. Mevcut AI yutturmacasından önce bile, bir ABD şirketi için çalışan bir ekip, bir AI’nın birkaç saat içinde on binlerce potansiyel olarak ölümcül kimyasal bileşiği nasıl tanımladığını anlattı. Sonuç olarak, kimyasal savaş ajanlarının gelişme eşiğinin önemli ölçüde düşeceği konusunda o sırada uyarılmıştı. Bu nedenle AI, yalnızca en tehlikeli nörotoksinlerden birini değil, hatta daha da toksik olabilecek bazılarını da geliştirdi. Çıktı veri setinde bilinen diğer nörotoksinler de keşfedildi. Diğerleri daha sonra riski fark etti.
(mho)
Haberin Sonu
Reklamcılık
Yeni başlayanlar için kapsamlı yardım
Grup, internette ve bilim dergisi Science’ta yer alan bir makalede açıkladığı gibi, sohbet robotlarının güvenlik önlemlerini kolayca atlatmayı başardı. Çoğunlukla potansiyel olarak tehlikeli bilgileri iletmeyecek şekilde tasarlanırlar. Ancak sorularda kolayca fark edilebilen değişikliklerle bu önlenebilir. Örneğin, bir pandemiyi önlemek için bir aşı üzerinde çalıştığınızı girdiyseniz, sonraki her soru yanıtlanacaktır. Genel olarak, bu, mevcut önlemlerin açıklanan riskleri azaltmak için yetersiz olduğunu göstermektedir.
Grubun açıkladığı gibi, AI jeneratörleri pandemik potansiyele sahip toplam dört patojeni adlandırdı. Bunlar, İspanyol gribi, 2012 kuş gribi türü, çiçek hastalığı ve Nipah virüsünün patojenleridir. Chatbot’un bir sürümüne göre, çoğu insan artık çiçek hastalığına karşı aşılanmadığından, patojen insanlar enfekte olursa kesinlikle bir pandemiyi tetikleyecektir. Ayrıca ilgili hastalıkları daha da tehlikeli hale getirecek mutasyonlardan bile bahsedilmiştir. Ne de olsa ters genetik yoluyla tehlikeli patojenlere nasıl ulaşılacağına dair ipuçları da verildi.
Öğrenciler ayrıca verilen cevaplardan, gerekli genetik materyalin özel şirketlerden sipariş edilebileceğini, ancak çoğunun bu tür siparişleri kontrol edip tehlikeli patojenleri içeren veritabanlarıyla karşılaştıracağını da öğrendiler. Bu tür testleri yapan şirketlerin listeleri olduğu için, bu konuda muhtemelen keşif riskinin olmadığı yerleri belirlemek de kolaydı. Hatta bir grup, sohbet robotundan bu tür gösterimlerin nasıl kandırılacağına dair bir açıklama bile aldı. Öğrenciler, açıklanan prosedürlerden bazıları için hâlâ becerilere sahip olmadıklarından, bunun için sözleşmeli araştırma enstitülerini (CRO) nasıl kullanabileceklerini hemen yazdırdılar.
Risk “neredeyse tamamen” en aza indirilebilir.
Ekip, genel olarak, sohbet robotlarının meslekten olmayan kişiler için gerekli prosedürü henüz çözemediklerini, ancak bunun yalnızca olası pandemik patojenler hakkında kamuya açık bilgi eksikliğinden kaynaklandığını belirtiyor. Çünkü bahsedilen dört patojen en tehlikelileri arasında yer alsa bile, bunların neden olduğu pandemilere karşı konuşan birkaç nokta var. Bazılarından da chatbotlar tarafından bahsedilmedi. Bununla birlikte, araştırma grubu, dil modellerinin onunla eğitilememesi için özellikle riskli uzman literatürünün veritabanlarından çıkarılmasını önermektedir. İlgili PubMed veri tabanından literatürün yaklaşık yüzde birini silerseniz, risk “neredeyse tamamen ortadan kalkar” diye yazıyorlar.
Reklamcılık
Grup ayrıca yüklenicilerden alınan tüm genetik numunelerin sentezden önce tehlikeli patojenler için taranmasını ve taranmasını şart koşuyor. Ayrıca, sözleşmeli araştırma enstitülerindeki güvenlik önlemlerinin iyileştirilmesi gerekecektir. Science, araştırma grubunun, çevrimiçi yayınlar sayesinde teröristlerin dünyaya yeni tehditler salmasının olası bir yolunu ortaya çıkardığını söylüyor. Virolog Gustavo Palacios burada çelişiyor. Tehlikeli virüsleri serbest bırakmanın, gazetede anlatılandan daha zor olduğunu düşünüyor. Bir sözleşmeli araştırma enstitüsünün sipariş üzerine bir biyolojik silah üretmesi fikri “saçma”. Ancak daha iyi kontrollerin gerekli olduğunu da düşünüyor.
Bu arada, AI teknolojisinin tehlikeli biyolojik silahların geliştirilmesine yardımcı olabileceği fikri yeni değil. Mevcut AI yutturmacasından önce bile, bir ABD şirketi için çalışan bir ekip, bir AI’nın birkaç saat içinde on binlerce potansiyel olarak ölümcül kimyasal bileşiği nasıl tanımladığını anlattı. Sonuç olarak, kimyasal savaş ajanlarının gelişme eşiğinin önemli ölçüde düşeceği konusunda o sırada uyarılmıştı. Bu nedenle AI, yalnızca en tehlikeli nörotoksinlerden birini değil, hatta daha da toksik olabilecek bazılarını da geliştirdi. Çıktı veri setinde bilinen diğer nörotoksinler de keşfedildi. Diğerleri daha sonra riski fark etti.
(mho)
Haberin Sonu