·
Imagine estar a trocar mensagens com um assistente de IA e, de repente, a conversa desvia para terreno sensível - com respostas incompletas, enviesadas ou até ofensivas. Surge então a questão: quem falhou, o algoritmo ou o utilizador? A resposta sólida: ambos. Mas vamos, passo a passo, desconstruir este desafio que molda o futuro das tecnologias conversacionais.
Accountability partilhada
Num panorama de IA genérica - como ChatGPT, Bard ou Gemini - as interações estão fora de domínio restrito. O utilizador molda a conversa e explora temas livres; ao mesmo tempo, o criador do modelo tem a obrigação de antever áreas problemáticas e limitar ou filtrar respostas que possam causar danos ou manipulação indesejada. Quando algo corre mal, a responsabilidade é partilhada - utilizador e desenvolvedor têm papéis determinantes.
Quando empatia se confunde com manipulação
Entre gestos de empatia ou técnicas de manipulação emocional, existe uma zona cinzenta clara. A UE, através do AI Act, exige transparência - o utilizador deve perceber que está a conversar com IA - e regula níveis de risco conforme o impacto da aplicação, evitando controlo psicológico através de design conversacional dissimulado.
Realidades paralelas: o novo mundo persuasivo
As “realidades paralelas” já são comuns online - e a IA converte-as num formato ainda mais sedutor, falando com o utilizador num registo quase humano. A diferença? De repente, ideias enviesadas, factos alternativos, começam a soar legítimos - porque vêm embutidos num tom persuasivo e personalizado. Isso agrava os riscos e sublinha o papel crucial que a curadoria e supervisão humana devem ter no processo.
IA como “companheira emocional”? Sim, mas com controlo
Existem contextos em que uma IA gera companhia - por exemplo, no treino para enfrentar ansiedade social ou interagir com pacientes isolados. Mas isso obriga a regras rigorosas: técnicas específicas (ex. treinar modelos com fontes credíveis restritas) e mecanismos internos de validação - como um segundo modelo que verifica a resposta antes desta chegar ao utilizador.
Legislação europeia: três níveis de risco
O AI Act categoriza as aplicações de IA por níveis de risco: baixo, moderado e elevado, com exigências crescentes de:
- Explicabilidade (no risco elevado, como decisões automatizadas sobre crédito);
- Transparência (marcar sempre a origem como IA);
- Controlo humano adequado.
Nos sistemas conversacionais, a tipologia de risco pode variar, mas o princípio é claro: quanto maior o impacto na vida das pessoas, mais forte é a responsabilidade legal e técnica.
Viés e validação cruzada: boas práticas
Para garantir fiabilidade e imparcialidade é crucial:
- Limitar as bases de treino a fontes credenciadas;
- Incluir validação cruzada: um modelo verifica as respostas do outro;
- Enriquecer com curadoria humana, especialmente em temas delicados (saúde mental, sensibilidade cultural, etc.).
O mito da IA “autónoma e consciente”
Esqueça os medos distópicos estilo Skynet: a IA não tem vontade própria nem intentos malévolos. É uma ferramenta - poderosa, sim, mas sem consciência ou agência moral. Quando falha, a responsabilidade recai sobre quem a projeta, treina, regula e interage com ela. A antropomorfização da IA é apenas uma ilusão - embora irremediavelmente atraente.
Impacto da IA no mercado de trabalho português
Á semelhança do que vemos noutras tecnologias, a IA trará substituição de funções repetitivas, mas também criará novas funções - por exemplo, curadores de dados, auditores de modelos ou especialistas em validação algorítmica. Em Portugal, há projetos relevantes: IA para previsão de incêndios, análise agrícola de solos ou gestão ambiental. A grande barreira? Disponibilidade de dados consistentes e fiáveis. Quanto melhor for a qualidade do input, melhor será a performance do modelo.
Responsabilidades dos líderes empresariais
Para integrar IA com sucesso:
- Repensar processos, não apenas automatizar o que já existe. A IA permite criar fluxos totalmente novos e eficientes.
- Responsabilidade social interna, sobretudo em estratégias que impactem colaboradores de entrada de carreira - prevenir deslocamentos massivos e oferecer formação adequada.
O futuro da IA generativa e emocional no mundo corporativo