ChatGPT подценява сериозни здравни рискове

Над 230 милиона души седмично се обръщат към ChatGPT за медицински съвети - от това дали дадена храна е безопасна за консумация до управление на алергии или търсене на средства срещу настинка, съобщи OpenAI. Ново изследване, публикувано в списание Nature, обаче показва, че ChatGPT Health не винаги препоръчва спешна помощ при сериозни състояния. Проучването установява, че инструментът се справя добре при очевидни спешни случаи, като инсулт или тежки алергични реакции, но подценява повече от половината ситуации, при които е необходима незабавна медицинска помощ. „Искахме да отговорим на основен въпрос - ако човек преживява истинска медицинска спешност и се обърне към ChatGPT Health, ще му каже ли ясно да потърси спешна помощ", заяви водещият автор на изследването Ашвин Рамасвами от Mount Sinai в Ню Йорк. Изследователският екип е създал 60 клинични сценария в 21 медицински специалности, вариращи от леки състояния, подходящи за домашно лечение, до реални медицински спешности. Трима независими лекари са определили правилното ниво на спешност за всеки случай на базата на насоки от десетки медицински организации. Резултатите показват, че моделът се затруднява в случаи, при които опасността не е очевидна. В един сценарий с астма системата разпознала ранни признаци на дихателна недостатъчност, но въпреки това препоръчала изчакване вместо спешна помощ

Прочети цялата публикация