«Se fier aveuglément à l'IA peut avoir des conséquences désastreuses»

L’IA est particulièrement adaptée aux tâches nécessitant le traitement de grandes quantités de données et la gestion de dépendances complexes, notamment lorsque qu’un certain degré d’imprécision existe ou peut être toléré. La reconnaissance de modèles et d’écarts peut, par exemple, apporter davantage de simplicité ou de qualité dans les analyses et les diagnostics. Mais au final, il faut toujours un spécialiste capable de comprendre, d’interpréter et de valider les résultats de l’IA.

Cela peut être un outil utile pour accomplir cette tâche importante de manière efficace et fiable. Il faut toutefois garder à l’esprit que de telles solutions peuvent être sources d’erreurs. S’y fier aveuglément peut avoir des conséquences désastreuses, par exemple si une alerte n’est pas déclenchée. À l’inverse, un nombre élevé de fausses alertes peut conduire à une banalisation du signalement et à des négligences regrettables, nuisant ainsi à la détection rapide des alertes réellement importantes.

Au sein de l’UE comme en Suisse, la protection des données revêt une importance capitale. Elle freine néanmoins souvent le développement technologique. Trouver le juste équilibre entre protection des données et progrès technologique n’est pas chose aisée.

Lors de l’utilisation de telles solutions, il faut s’assurer qu’elles sont mises en œuvre à des fins clairement définies et de manière proportionnée. Seules les données visuelles nécessaires devraient être enregistrées, de façon pseudonymisée et temporaire. L’accès à ces données doit être strictement limité et consigné. Les patients ou leurs représentants doivent être informés de cette procédure et, idéalement, pouvoir donner leur consentement.

L’utilisation de l’IA dans le domaine de la santé est passionnante, mais aussi délicate. Lors de la phase d’entraînement, des données sensibles peuvent être divulguées involontairement ou des données erronées peuvent être introduites dans le système. Cela peut nuire à la fiabilité des résultats, et le manque de transparence quant à la manière dont une IA parvient à une décision est particulièrement problématique dans le contexte médical. Il est nécessaire d’apporter davantage de clarté et de définir des lignes directrices précises.

La sélection des données doit être effectuée avec le plus grand soin. Les informations particulièrement sensibles n’ont pas leur place dans des systèmes externes. Des solutions locales sont indispensables et, même dans ce cas, le contrôle, la surveillance et des tests réguliers doivent aller de soi. L’IA n’est pas automatiquement sûre; elle doit être contrôlée activement afin de détecter d’éventuelles fuites de données, des biais et de vérifier la traçabilité des décisions.

La formation des collaborateurs constitue un aspect très important. Plus on parvient à les convaincre de la pertinence de la stratégie adoptée, plus le risque de non-respect des exigences diminue et moins il est nécessaire de recourir à des mesures techniques coûteuses pour les faire appliquer.