Um passageiro perguntou ao chatbot da Air Canada se podia comprar um bilhete e pedir mais tarde o desconto previsto para viagens por morte de um familiar. O chatbot disse que sim. A companhia recusou depois o pedido, porque as suas regras não o permitiam. Em fevereiro de 2024, um tribunal canadiano responsabilizou-a pela informação errada e mandou-a indemnizar o passageiro.

O caso interessa a qualquer empresa que use um chatbot para responder aos clientes. Se uma resposta errada causar um prejuízo e a empresa tiver de indemnizar o cliente, o seu seguro de responsabilidade civil cobre essa indemnização? Ou precisa de uma apólice específica para os riscos da IA?

A resposta depende do que comprou. As apólices cobrem determinadas atividades e tipos de prejuízo. Uma resposta errada pode causar uma perda financeira sem provocar danos físicos ou materiais. Essa perda pode ficar fora da cobertura, mesmo que a apólice não exclua expressamente a IA. Ter um seguro de responsabilidade civil não garante que este erro esteja coberto.

Parte do mercado está a responder através dos produtos existentes. Em junho, a CFC anunciou a introdução de cobertura explícita de IA em sete apólices, incluindo responsabilidade profissional e responsabilidade de administradores. Esta opção permite esclarecer a proteção do cliente nos seguros que já contrata.

Enquanto analista de investimentos em insurtech, acredito que haverá também um mercado relevante para especialistas em responsabilidade por IA. Empresas como a Testudo e a Armilla já oferecem apólices dedicadas. Operam como Managing General Agents (MGAs), entidades que desenvolvem produtos e subscrevem riscos em nome de seguradoras, que assumem a obrigação de pagar os sinistros cobertos.

O que podem oferecer de melhor? Uma avaliação centrada nos usos da IA e coberturas escritas para os prejuízos que esses usos podem causar. A Testudo relaciona os sistemas utilizados pelas empresas com incidentes, processos judiciais e ações regulatórias. A Armilla combina esse tipo de informação com avaliações técnicas dos sistemas e dos controlos das empresas que os utilizam.

Pensemos em duas empresas que usam o mesmo modelo. Numa, o assistente de IA prepara respostas que um funcionário revê antes de enviar. Na outra, responde diretamente aos clientes, dando recomendações sobre os produtos que devem comprar. O modelo é o mesmo, mas as possibilidades de causar um prejuízo são diferentes. Essa diferença deve pesar no preço e nas condições do seguro.

Conhecer estes usos permite ao especialista avaliar riscos que uma abordagem mais genérica pode levar a recusar. Permite também definir com maior precisão o que fica coberto. A Testudo, por exemplo, apresenta cobertura para perdas financeiras causadas a terceiros por respostas erradas da IA. A Armilla inclui despesas de defesa e indemnizações por reclamações relacionadas com falhas dos sistemas. São respostas concretas à dúvida de quem utiliza estas ferramentas.

É por isso que vemos espaço para estas MGAs crescerem, mesmo que as seguradoras adaptem os seus produtos atuais. A especialização pode permitir-lhes cobrir atividades que outros recusam ou oferecer condições mais adequadas ao uso da IA de cada empresa. O resultado interessa diretamente ao segurado: saber que prejuízos estão cobertos, com que limites e em que condições.

Nem todas as empresas precisarão de uma apólice própria. Mas, à medida que entregam mais tarefas à IA, precisam de confirmar que o seguro acompanha as responsabilidades que estão a assumir. Acreditamos que os especialistas terão um papel importante em dar essa resposta.