Emory Üniversitesi Tıp Fakültesi’nde dördüncü sınıf oftalmoloji asistanı olarak Dr. Riley Lyons’un en büyük sorumlulukları arasında triyaj yer alıyor: Bir hasta gözle ilgili bir şikayetle geldiğinde, Lyons aciliyet durumunu hemen değerlendirmelidir.
Sık sık hastaların zaten “Dr. Google.” Lyons, internette “yaşadıkları semptomlara bağlı olarak çok sayıda korkunç şeyin meydana gelebileceğini” bulacaklarını söyledi.
Bu nedenle, Lyons’un Emory’deki iki göz doktoru arkadaşı ona gelip yapay zeka sohbet robotu ChatGPT’nin gözle ilgili şikayetlerin teşhisinde doğruluğunun değerlendirilmesini önerdiğinde, o bu şansı değerlendirdi.
Haziran ayında Lyons ve meslektaşları, sağlık bilimi ön çalışmalarının çevrimiçi yayıncısı medRxiv’de, ChatGPT’nin aynı semptomları inceleyen insan doktorlarla oldukça iyi karşılaştırıldığını ve popüler sağlık web sitesi WebMD’deki semptom denetleyicisinden çok daha iyi performans gösterdiğini bildirdi. Ve ChatGPT’yi etkilediği bilinen ve çokça duyurulan “halüsinasyon” sorununa (ara sıra doğrudan yanlış beyanlarda bulunma alışkanlığı) rağmen, Emory çalışması, ChatGPT’nin en son sürümünün, standart bir bakış açısıyla sunulduğunda sıfır “büyük ölçüde yanlış” beyanda bulunduğunu bildirdi. şikayetler.
Kasım 2022’de kullanıma sunulan ChatGPT’nin göreceli yeterliliği Lyons ve ortak yazarları için bir sürprizdi. Emory Göz Merkezi’nde vitreoretinal cerrahi ve hastalık konusunda uzmanlaşmış yardımcı doçent olan ortak yazar Dr. Nieraj Jain, yapay zeka motorunun “sadece bir şeyi Google arama çubuğuna koyup ne bulduğunuzu görmeye kıyasla kesinlikle bir gelişme” olduğunu söyledi.
Ancak bulgular, ChatGPT tarafından kullanılan yapay zeka türü olan üretken yapay zekanın vaatlerini ve tuzaklarını değerlendirirken sağlık sektörünün karşı karşıya olduğu bir zorluğun altını çiziyor: Chatbot tarafından iletilen tıbbi bilgilerin doğruluğu, Dr. Bu yeni teknolojinin, geçmişte yeni ilaçların veya tıbbi cihazların piyasaya sürülmesinde uygulanan güvenlik önlemlerinin aynılarıyla sağlık sistemlerine nasıl entegre edileceğine dair hala birçok soru var.
Üretken yapay zekanın akıcı sözdizimi, otoriter tonu ve ustalığı toplumun tüm kesimlerinde olağanüstü ilgi gördü; bazıları bunun gelecekteki etkisini internetin kendisiyle karşılaştırdı. Sağlık hizmetlerinde şirketler, radyoloji ve tıbbi kayıtlar gibi alanlarda üretken yapay zekayı uygulamak için hararetli bir şekilde çalışıyor.
Tüketici chatbot’ları söz konusu olduğunda, teknoloji zaten yaygın olarak mevcut olmasına ve birçok alternatiften daha iyi olmasına rağmen hala ihtiyatlı olunması gerekiyor. Pek çok doktor, yapay zeka tabanlı tıbbi araçların FDA’nın ilaçlara yönelik rejimine benzer bir onay sürecinden geçmesi gerektiğine inanıyor, ancak bu daha yıllar alacak. Böyle bir rejimin ChatGPT gibi genel amaçlı yapay zekalara nasıl uygulanabileceği belli değil.
Jain, “Bakım hizmetlerine erişimle ilgili sorunlarımız olduğuna şüphe yok ve ChatGPT’yi erişimdeki boşlukları kapatmak veya boşlukları doldurmak için dağıtmanın iyi bir fikir olup olmadığına bakılmaksızın, bu gerçekleşecek ve zaten oluyor” dedi. “İnsanlar bunun faydasını çoktan keşfettiler. Bu nedenle potansiyel avantajları ve tuzakları anlamamız gerekiyor.”
Emory çalışması, yeni nesil yapay zeka sohbet robotlarının göreceli doğruluğunu onaylamada tek başına değil. Google bilgisayar bilimcileri liderliğindeki bir grup tarafından Temmuz ayı başlarında Nature dergisinde yayınlanan bir raporda, şirketin tıbbi kullanım için özel olarak geliştirdiği bir yapay zeka sohbet robotu olan Med-PaLM tarafından oluşturulan yanıtların “klinisyenlerin verdiği yanıtlarla olumlu bir şekilde karşılaştırıldığı” belirtildi.
Yapay zeka ayrıca daha iyi bir başucu tavrına da sahip olabilir. Nisan ayında JAMA Internal Medicine’de yayınlanan başka bir çalışma, sağlık uzmanlarının ChatGPT yanıtlarını insan doktorların yanıtlarından daha empatik olarak değerlendirdiğini bile belirtti.
Gerçekten de bazı şirketler, sohbet robotlarının zihinsel sağlık terapisi için nasıl kullanılabileceğini araştırıyor ve şirketlerdeki bazı yatırımcılar, sağlıklı insanların da yapay zekalı bir “arkadaş” ile sohbet etmekten ve hatta bağ kurmaktan keyif alabileceklerini iddia ediyor. Bu türün en gelişmişlerinden biri olan Replika’nın arkasındaki şirket, chatbot’unu “Umursayan AI arkadaşı” olarak pazarlıyor. Her zaman dinlemek ve konuşmak için buradayım. Her zaman senin tarafın.”
Yapay zeka danışmanı James Benoit, “Doktorların, bu yeni araçların kalıcı olduğunu ve hem doktorlara hem de hastalara yeni yetenekler sunduğunu fark etmeye başlamasına ihtiyacımız var” dedi.
Kanada’daki Alberta Üniversitesi’nde hemşirelik alanında doktora sonrası araştırmacı olarak çalışırken, Şubat ayında ChatGPT’nin bir dizi tıbbi senaryoyu değerlendirmede çevrimiçi semptom denetleyicilerinden önemli ölçüde daha iyi performans gösterdiğini bildiren bir ön çalışma yayınladı. “Bu noktada biraz dikkate alınmayı hak edecek kadar doğrular” dedi.
Yine de ChatGPT’nin göreceli güvenilirliğini kanıtlayan araştırmacılar bile hastaların yapay zekanın mevcut durumuna tamamen güvenmelerini tavsiye etme konusunda temkinli davranıyor. Pek çok tıp uzmanı için yapay zeka sohbet robotları belaya davetiye çıkarıyor: Gizlilik, güvenlik, önyargı, sorumluluk, şeffaflık ve mevcut düzenleyici gözetim eksikliğiyle ilgili birçok sorundan bahsediyorlar.
Bu eleştirmenler, yapay zekanın Dr. Google’a göre marjinal bir gelişmeyi temsil ettiği için benimsenmesi gerektiği önerisinin ikna edici olmadığını söylüyor.
“Bu biraz hayal kırıklığı yaratan bir çıta, değil mi?” Florida Eyalet Üniversitesi’nde sağlık hukuku alanında uzmanlaşmış bir profesör olan Dr. Mason Marks, şöyle konuştu: Bir röportajda “‘Daha derin sistemik sorunları telafi etmek için bu konuşkan yapay zekayı yara bandı olarak kullanalım’ demenin ne kadar yararlı olduğunu bilmiyorum” dedi.
Ona göre en büyük tehlike, piyasa teşviklerinin hastaları belirli ilaçlara veya tıbbi hizmetlere yönlendirmek için tasarlanmış yapay zeka arayüzleriyle sonuçlanma olasılığıdır. Marks, “Şirketler belirli bir ürünü diğerine tercih etmek isteyebilir” dedi. “İnsanların sömürülmesi ve verilerin ticarileştirilmesi potansiyeli emsalsizdir.”
ChatGPT’yi geliştiren şirket olan OpenAI de dikkatli olunması yönünde çağrıda bulundu.
Bir şirket sözcüsü, “OpenAI’nin modelleri tıbbi bilgi sağlayacak şekilde ayarlanmadı” dedi. “Modellerimizi asla ciddi tıbbi durumlar için teşhis veya tedavi hizmetleri sağlamak amacıyla kullanmamalısınız.”
UC San Diego’da hesaplamalı epidemiyolog ve JAMA Dahiliye çalışmasının baş yazarı John Ayers, diğer tıbbi müdahalelerde olduğu gibi odak noktasının hasta sonuçları olması gerektiğini söyledi.
Ayers, “Düzenleyiciler çıkıp bir chatbot kullanarak hasta hizmetleri sunmak istiyorsanız, chatbotların hasta sonuçlarını iyileştirdiğini göstermeniz gerektiğini söylerse, o zaman bir dizi sonuç için randomize kontrollü araştırmalar yarın kaydedilecektir” dedi.
Düzenleyicilerden daha acil bir duruş görmek istiyor.
Ayers, “Yüz milyon kişinin telefonunda ChatGPT var ve şu anda sorular soruyorlar” dedi. İnsanlar biz olsak da olmasak da chatbotları kullanacak.”
Ancak şu anda yapay zekaların güvenlik ve etkililik açısından sıkı testlerinin yakın olduğuna dair çok az işaret var. Mayıs ayında, FDA komiseri Dr. Robert Califf, “büyük dil modellerinin düzenlenmesinin geleceğimiz açısından kritik olduğunu” tanımladı, ancak düzenleyicilerin yaklaşımlarında “çevik” olmalarını tavsiye etmenin yanı sıra, birkaç ayrıntı verdi.
Bu arada yarış devam ediyor. Temmuz ayında Wall Street Journal, Mayo Clinic’in Med-PaLM 2 sohbet robotunu sistemine entegre etmek için Google ile ortaklık kurduğunu bildirdi. Haziran ayında WebMD, etkileşimli “dijital sağlık asistanları” sağlamak için Pasadena merkezli bir girişim olan HIA Technologies Inc. ile ortaklık kurduğunu duyurdu. Yapay zekanın hem Microsoft’un Bing’ine hem de Google Arama’ya entegrasyonunun devam etmesi, Dr. Google’ın yerini Dr. Chatbot’a bırakma yolunda çoktan ilerlediğini gösteriyor.
Bu makale tarafından hazırlanmıştır. KFF Sağlık Haberleriyayınlayan Kaliforniya Sağlık Hattıeditoryal olarak bağımsız bir hizmettir. Kaliforniya Sağlık Vakfı.