Où voyez-vous les plus grandes opportunités d’utilisation de l’IA dans les établissements de santé?
L’IA est particulièrement adaptée aux tâches nécessitant le traitement de grandes quantités de données et la gestion de dépendances complexes, notamment lorsque qu’un certain degré d’imprécision existe ou peut être toléré. La reconnaissance de modèles et d’écarts peut, par exemple, apporter davantage de simplicité ou de qualité dans les analyses et les diagnostics. Mais au final, il faut toujours un spécialiste capable de comprendre, d’interpréter et de valider les résultats de l’IA.
L’Hôpital universitaire de Zurich utilise des caméras assistées par IA pour surveiller les patients à risque. Qu’en pensez-vous?
Cela peut être un outil utile pour accomplir cette tâche importante de manière efficace et fiable. Il faut toutefois garder à l’esprit que de telles solutions peuvent être sources d’erreurs. S’y fier aveuglément peut avoir des conséquences désastreuses, par exemple si une alerte n’est pas déclenchée. À l’inverse, un nombre élevé de fausses alertes peut conduire à une banalisation du signalement et à des négligences regrettables, nuisant ainsi à la détection rapide des alertes réellement importantes.
En France, l’utilisation de telles caméras dans les chambres d’hôpital est interdite; au Danemark, elle a été en partie suspendue. Le Préposé fédéral à la protection des données souhaite désormais élaborer des recommandations. De votre point de vue, que devrait faire la Suisse en matière de réglementation?
Au sein de l’UE comme en Suisse, la protection des données revêt une importance capitale. Elle freine néanmoins souvent le développement technologique. Trouver le juste équilibre entre protection des données et progrès technologique n’est pas chose aisée.
Lors de l’utilisation de telles solutions, il faut s’assurer qu’elles sont mises en œuvre à des fins clairement définies et de manière proportionnée. Seules les données visuelles nécessaires devraient être enregistrées, de façon pseudonymisée et temporaire. L’accès à ces données doit être strictement limité et consigné. Les patients ou leurs représentants doivent être informés de cette procédure et, idéalement, pouvoir donner leur consentement.
Marc Ruef est cofondateur de la société scip AG à Zurich, qui propose depuis 2002 des conseils dans le domaine de la cybersécurité. L’entreprise est spécialisée dans les contrôles de sécurité des systèmes informatiques et se concentre entre autres sur l’analyse des dispositifs médicaux.
Où voyez-vous actuellement les plus grands risques liés à l’utilisation de l’intelligence artificielle dans le domaine de la santé?
L’utilisation de l’IA dans le domaine de la santé est passionnante, mais aussi délicate. Lors de la phase d’entraînement, des données sensibles peuvent être divulguées involontairement ou des données erronées peuvent être introduites dans le système. Cela peut nuire à la fiabilité des résultats, et le manque de transparence quant à la manière dont une IA parvient à une décision est particulièrement problématique dans le contexte médical. Il est nécessaire d’apporter davantage de clarté et de définir des lignes directrices précises.
Et comment les données des patients peuvent-elles être protégées dans le cadre des applications d’IA?
La sélection des données doit être effectuée avec le plus grand soin. Les informations particulièrement sensibles n’ont pas leur place dans des systèmes externes. Des solutions locales sont indispensables et, même dans ce cas, le contrôle, la surveillance et des tests réguliers doivent aller de soi. L’IA n’est pas automatiquement sûre; elle doit être contrôlée activement afin de détecter d’éventuelles fuites de données, des biais et de vérifier la traçabilité des décisions.
Quel rôle peut jouer la sensibilisation des collaborateurs?
La formation des collaborateurs constitue un aspect très important. Plus on parvient à les convaincre de la pertinence de la stratégie adoptée, plus le risque de non-respect des exigences diminue et moins il est nécessaire de recourir à des mesures techniques coûteuses pour les faire appliquer.
