A mesterséges intelligencia (MI) egyre látványosabb alkalmazásokat kínál, de a pontatlanságokra és hibákra való hajlam változatlan, különösen, ha egészségügyi tanácsadásról van szó. Az MI-t ma már olyan platformokon is használják, mint a MyChart, amely az orvosok és betegek közötti üzenetváltásokat támogatja. A The New York Times riportja szerint az MI az orvosok nevében automatikusan válaszolhat a betegek kérdéseire, azonban az eszközt nem kötelezi semmi arra, hogy világosan jelezze, az üzenet egy géptől származik - közölte a Bitport.
Az MI használatával kapcsolatos szabályozás homályos: bár jelenleg az MI által generált üzenetvázlatokat egészségügyi szakembereknek kell ellenőrizniük, nem nehéz elképzelni, hogy hibák is átcsúsznak. Egy példa szerint az MI anélkül biztosította a beteget, hogy be van oltva a hepatitis B ellen, hogy hozzáfért volna az oltási adatokhoz. Ezek a „hallucinációk” aggodalmat keltenek, különösen, ha a betegek nem kapnak megfelelő tájékoztatást az MI-forrásról.
Egy tanulmány, amelyet a Futurism oldal idézett, kimutatta, hogy a MyChart eszköze által generált 116 üzenetvázlatból 7 esetben jelentkezett MI-hiba. Ez az arány ezen a területen elfogadhatatlanul magas. Az MI orvosi tanácsadásban történő használatának egyik legnagyobb kockázata, hogy a hibák és téves információk gyorsan megrendíthetik a betegek bizalmát, különösen, ha nem világos számukra, hogy nem egy valódi orvossal beszélnek.
