FDA, Generative-AI Aracı Elsa'yı Programdan Önce Piyasaya Sürüyor

Üretken yapay zeka federal hükümette başka bir yuva buldu. Salı günü, ABD Gıda ve İlaç Dairesi, verimliliği artıracağını umduğu kendi üretken yapay zekasının erken lansmanını duyurdu.

FDA'nın Elsa lakaplı aracı, çalışanlara bilimsel incelemelerden temel operasyonlara kadar her konuda yardımcı olmak için tasarlanmıştır. FDA'nın açıklamasına göre, FDA başlangıçta 30 Haziran'da piyasaya sürmeyi planlamıştı, bu nedenle Elsa programın çok ilerisinde ve bütçenin altında.

Elsa'nın tam olarak hangi bilgiler konusunda eğitildiği açık değil, ancak FDA hassas araştırma ve bilgileri korumak için "düzenlenen endüstri tarafından sunulan hiçbir veriyi" kullanmadığını söylüyor. Elsa şu anda bilgilerini, özellikle sınıflandırılmış bilgiler için tasarlanmış bir Amazon Web Services ürünü olan GovCloud'da barındırıyor.

Bir dil modeli olarak Elsa, çalışanların okuma, yazma ve özetleme konusunda yardımcı olabilir. Ayrıca FDA, olumsuz olayları özetleyebileceğini, klinik olmayan uygulamalar için kod üretebileceğini ve daha fazlasını yapabileceğini söyledi. Kuruma göre Elsa halihazırda "klinik protokol incelemelerini hızlandırmak, bilimsel değerlendirmeler için gereken süreyi kısaltmak ve yüksek öncelikli denetim hedeflerini belirlemek" için kullanılıyor.

FDA'nın ilk AI destekli bilimsel incelemesinin tamamlandığını duyuran Mayıs ayındaki bir basın bülteninde Makary, Elsa'nın "yeni terapiler için inceleme süresini hızlandırmada muazzam bir vaat" sunan yeteneklerinden "çok etkilendiğini" söyledi . "Bilim insanlarımızın zamanına değer vermeli ve tarihsel olarak inceleme sürecinin çoğunu tüketen üretken olmayan meşguliyet miktarını azaltmalıyız" diye ekledi.

Bir bilim insanı olan Jinzhong Liu'ya göre, FDA'nın üretken AI'sı, aksi takdirde birkaç gün sürecek görevleri dakikalar içinde tamamladı. Salı günkü duyuruda, FDA Baş AI Sorumlusu Jeremy Walsh, "Bugün FDA'da Elsa'nın piyasaya sürülmesiyle AI döneminin başlangıcını kutluyoruz, AI artık uzak bir vaat değil, her çalışanın performansını ve potansiyelini geliştiren ve optimize eden dinamik bir güç." dedi.

Üretken AI kesinlikle yararlı bir araç olabilir, ancak her aracın dezavantajları vardır. Özellikle AI ile ilgili olarak, düpedüz yanlış veya yanıltıcı iddialar ve ifadeler olan halüsinasyonlar hakkındaki hikayelerde bir artış oldu. Genellikle ChatGPT gibi sohbet robotlarıyla ilişkilendirilse de, halüsinasyonlar federal AI modellerinde hala ortaya çıkabilir ve burada daha da fazla kaosa yol açabilirler .

IT Veterans'a göre, AI halüsinasyonları genellikle eğitim verilerindeki önyargılar veya modelin kendisine yerleştirilmiş gerçek kontrol önlemlerinin eksikliği gibi faktörlerden kaynaklanır. Ancak bunlar yerinde olsa bile, IT Veterans insan denetiminin "riskleri azaltmak ve AI ile entegre federal veri akışlarının güvenilirliğini sağlamak için elzem" olduğunu söylüyor.

İdeal olarak, FDA, Elsa'nın kullanımıyla ilgili herhangi bir aksilik yaşanmasını önlemek için kapsamlı bir şekilde düşünmüş ve önlemler almıştır. Ancak, federal ajanslar toplu işten çıkarmalar içindeyken, gerçekten insan denetimine ihtiyaç duyan teknolojinin genişlemesi her zaman endişe vericidir. Nisan ayının başında, FDA bilim insanları ve teftiş personeli de dahil olmak üzere 3.500 çalışanı işten çıkardı (ancak bazı işten çıkarmalar daha sonra geri alındı).

Elsa'nın nihai olarak nasıl performans göstereceğini zaman gösterecek. Ancak sonunda FDA, olgunlaştıkça kullanımını kurum genelinde genişletmeyi planlıyor. Bu, "FDA'nın misyonunu daha da desteklemek" için veri işleme ve üretken-AI işlevlerini içerir.