IA comete erros? Seguradoras lançam apólices para cobrir decisões equivocadas e ‘alucinações’ de sistemas de inteligência artificial
Apesar dos avanços, a inteligência artificial (IA) ainda pode falhar. Diante disso, seguradoras estão começando a oferecer cobertura para erros cometidos por sistemas de IA, como decisões equivocadas e as chamadas “alucinações” – quando a tecnologia apresenta informações falsas com grande confiança, conforme reportagem da agência France Press.
Tradicionalmente, seguros cobrem falhas humanas, não decisões de máquinas. Empresas que desenvolvem ou usam sistemas autônomos buscam agora coberturas adicionais. Phil Dawson, da seguradora Armilla, explica que “a finalidade destas ferramentas avançadas de IA é prescindir da assistência e da supervisão humanas na tomada de decisões, o que questiona parte da lógica fundamental da cobertura de seguros existente”.
Até recentemente, os riscos da IA eram cobertos de forma implícita, em um modelo chamado “cobertura silenciosa”. Essa situação lembra os primeiros anos da criminalidade cibernética, quando os riscos não eram bem definidos, segundo análise de Sonal Madhok e Anat Lior (Willis Towers Watson). Nos últimos meses, o setor mudou de postura, com muitas apólices padrão incluindo cláusulas de “exclusão absoluta da IA”, retirando a cobertura para esses riscos.
A oferta de seguros específicos para IA está crescendo. Um dos principais produtos é o seguro de erros e omissões (E&O), adaptado para falhas de IA. Esse tipo de apólice pode cobrir decisões erradas de sistemas automatizados, prejuízos financeiros causados por “alucinações” e até danos no mundo real, como compras excessivas feitas por agentes virtuais. Uma imobiliária, por exemplo, contratou uma apólice específica para proteger seu agente de IA como se fosse um funcionário.
Antes de conceder cobertura, as seguradoras avaliam os sistemas de IA, testando vulnerabilidades e analisando a gestão de riscos da empresa. No entanto, algumas áreas estão fora da cobertura, como diagnósticos médicos e saúde mental (Armilla) ou falhas decorrentes de condições excepcionais de mercado (Munich Re). O mercado global de seguros para IA pode movimentar até US$ 4,8 bilhões (cerca de R$ 25 bilhões) até 2032, segundo a Deloitte.
Michael von Gablenz (Munich Re) ressalta que, apesar dos avanços, os modelos de IA “seguem sendo modelos estatísticos. Sempre apresentam uma parte de incerteza.”
Com informações do G1
