Durante muito tempo, decidir se uma pessoa teria acesso ao crédito dependia da análise de documentos, renda, histórico de pagamentos e relacionamento com determinada instituição financeira.

Hoje, essa realidade está mudando.

A inteligência artificial e os sistemas automatizados já permitem analisar grandes volumes de informações em poucos segundos, identificando padrões que dificilmente seriam percebidos por uma análise exclusivamente humana.

Essa transformação pode tornar o mercado de crédito mais eficiente, reduzir riscos e ampliar o acesso de consumidores que anteriormente encontravam dificuldades para obter financiamento.

Mas também cria uma questão jurídica fundamental: até que ponto podemos permitir que decisões capazes de afetar diretamente a vida econômica de uma pessoa sejam tomadas por sistemas automatizados?

A pergunta não é apenas tecnológica. É jurídica, econômica e social.

Uma decisão aparentemente neutra

Imagine dois consumidores com renda semelhante e histórico de pagamento aparentemente positivo.

Um deles recebe determinada oferta de crédito.

O outro recebe um limite significativamente menor ou tem sua solicitação recusada.

Nenhum dos dois sabe exatamente por que isso aconteceu.

A empresa informa que a decisão foi produzida por um modelo automatizado de análise de risco.

Surge então uma questão simples, mas profunda: quem explica a decisão ao consumidor?

A tecnologia pode calcular o risco. Mas a responsabilidade pela decisão continua pertencendo à organização que utiliza essa tecnologia. Esse ponto será cada vez mais importante nas relações de consumo.

O problema não está no algoritmo

Seria equivocado tratar a inteligência artificial como necessariamente prejudicial ao consumidor.

Pelo contrário.

Sistemas automatizados podem produzir benefícios relevantes.

Podem analisar informações com maior velocidade, reduzir custos operacionais, identificar padrões de fraude, melhorar avaliações de risco e permitir que instituições ofereçam produtos mais adequados aos diferentes perfis de consumidores.

Em determinadas situações, isso pode inclusive favorecer a inclusão financeira. O problema surge quando eficiência tecnológica passa a ser confundida com neutralidade.

Um algoritmo não é necessariamente imparcial apenas porque utiliza matemática. Ele é construído a partir de dados, critérios, modelos e escolhas humanas.

Se os dados utilizados carregarem distorções, o resultado poderá reproduzi-las.

O risco da discriminação algorítmica

Essa é uma das questões mais delicadas. Sistemas de inteligência artificial aprendem com informações históricas. Se determinados padrões existentes nos dados refletirem desigualdades ou comportamentos discriminatórios, existe o risco de que o sistema reproduza essas distorções.

No mercado de crédito, as consequências podem ser significativas. Uma decisão automatizada pode influenciar:

• aprovação ou rejeição de uma proposta;
• limite disponibilizado;
• condições comerciais;
• ofertas apresentadas;
• avaliação de risco;
• possibilidade de acesso a determinados produtos.

Por isso, a utilização de inteligência artificial exige mecanismos de governança capazes de identificar, monitorar e corrigir resultados inadequados.

O consumidor precisa compreender a decisão

Existe outro desafio.

Quanto mais sofisticados se tornam os modelos utilizados pelas empresas, mais difícil pode ser explicar ao consumidor como determinada decisão foi produzida.

Mas transparência não pode desaparecer justamente quando a tecnologia se torna mais complexa.

O consumidor não precisa necessariamente conhecer toda a arquitetura matemática do sistema.

Precisa, entretanto, receber informações suficientes para compreender os elementos relevantes que influenciaram determinada decisão e, quando cabível, contestá-la.

Essa capacidade de contestação é fundamental.

Uma decisão que afeta significativamente a vida econômica de uma pessoa não deveria transformar-se em uma espécie de “caixa-preta” inacessível.

Eficiência econômica versus proteção do consumidor

Existe aqui uma tensão legítima.

As empresas precisam utilizar tecnologia para aumentar eficiência, reduzir custos e melhorar seus modelos de risco.

Impor exigências excessivamente rígidas poderia encarecer operações e reduzir a inovação.

Por outro lado, permitir decisões completamente opacas pode gerar riscos relevantes aos consumidores e ao próprio funcionamento do mercado.

O desafio jurídico está justamente em encontrar equilíbrio.

A pergunta não deveria ser:

“Devemos permitir inteligência artificial no mercado de crédito?”

Mas:

“Quais condições devem ser observadas para que sua utilização seja legítima, responsável e economicamente sustentável?”

Essa mudança de pergunta é importante. Ela desloca o debate da rejeição da tecnologia para a construção de uma boa governança tecnológica.

A importância da governança

A utilização responsável da inteligência artificial exige que as empresas conheçam os modelos que utilizam e sejam capazes de monitorar seus resultados.

Isso envolve, entre outros aspectos:

Governança de dados — compreender a origem, qualidade e finalidade das informações utilizadas.

Gestão de riscos — identificar possíveis distorções e impactos negativos.

Transparência — estabelecer mecanismos adequados de explicação das decisões.

Supervisão humana — garantir que determinadas decisões possam ser revistas quando necessário.

Auditoria — avaliar periodicamente se o sistema produz resultados compatíveis com os objetivos jurídicos e empresariais estabelecidos.

A tecnologia pode automatizar uma decisão. Não pode automatizar a responsabilidade.

Inteligência artificial e crédito responsável

Aqui encontramos uma conexão direta com tudo o que discutimos nos artigos anteriores.

Se o objetivo é construir um mercado de crédito responsável, a inteligência artificial pode ser uma poderosa aliada.

Modelos mais sofisticados podem ajudar a identificar consumidores com diferentes perfis de risco e evitar concessões inadequadas.

Podem também permitir avaliações mais individualizadas.

Mas existe uma diferença entre utilizar tecnologia para melhorar a qualidade da concessão e utilizá-la simplesmente para aumentar a quantidade de crédito concedido.

A primeira perspectiva está relacionada à sustentabilidade.

A segunda pode reproduzir os mesmos problemas que historicamente contribuíram para o superendividamento.

O Direito diante da velocidade tecnológica

A tecnologia avança em velocidade superior à capacidade tradicional de elaboração das normas.

Essa realidade cria um desafio permanente para o Direito.

Não seria razoável esperar que a legislação descrevesse antecipadamente cada nova tecnologia utilizada pelo mercado.

Por outro lado, também não podemos permitir que a inovação seja utilizada como justificativa para afastar princípios jurídicos fundamentais.

É justamente por isso que princípios como transparência, boa-fé, proteção do consumidor, responsabilidade, segurança e proteção de dados assumem importância crescente.

Eles funcionam como referências capazes de orientar novas situações mesmo quando a tecnologia ainda não foi completamente compreendida pelo legislador.

O consumidor não pode ser reduzido a uma pontuação

Existe um risco conceitual importante na utilização de modelos automatizados.

Transformar uma pessoa em uma pontuação pode facilitar decisões empresariais.

Mas uma pontuação não representa integralmente a realidade econômica de um indivíduo.

A vida financeira é dinâmica.

Uma alteração de renda, uma mudança profissional ou uma circunstância inesperada pode modificar completamente a capacidade de pagamento de alguém.

Por isso, modelos de risco devem ser ferramentas de decisão — e não necessariamente substitutos absolutos da capacidade de análise e revisão.

A eficiência do algoritmo não elimina a complexidade humana.

Desenvolvimento econômico e inteligência artificial

A discussão também precisa ser observada sob a perspectiva do desenvolvimento econômico.

Uma utilização responsável da inteligência artificial pode:

• reduzir custos;
• aumentar eficiência;
• ampliar concorrência;
• melhorar produtos financeiros;
• reduzir fraudes;
• aperfeiçoar decisões de crédito;
• ampliar oportunidades de inclusão financeira.

Esses efeitos podem contribuir para um mercado mais eficiente.

Mas desenvolvimento econômico não significa simplesmente incorporar novas tecnologias.

Significa utilizá-las para ampliar oportunidades sem criar novas formas de exclusão.

A inovação precisa produzir valor econômico sem comprometer direitos fundamentais.

A inteligência artificial provavelmente ocupará espaço cada vez maior nas decisões relacionadas ao crédito.

Ignorar essa realidade seria ignorar uma das principais transformações do mercado financeiro contemporâneo.

Mas também seria inadequado aceitar que decisões capazes de afetar profundamente a vida econômica das pessoas sejam tratadas como meros resultados matemáticos.

A questão central não é impedir que máquinas participem das decisões. É garantir que as pessoas e as instituições continuem responsáveis pelas consequências dessas decisões.

O futuro do crédito exigirá tecnologia. Mas também exigirá transparência, governança, responsabilidade e proteção do consumidor.

No final, a pergunta mais importante talvez não seja: “A inteligência artificial pode decidir quem merece crédito?” Mas: “Que tipo de mercado queremos construir quando permitimos que a inteligência artificial participe dessa decisão?”

Essa é uma pergunta que o Direito precisará responder antes que a tecnologia responda por nós.

Direito, Mercado e Desenvolvimento

Tem como propósito traduzir a lei e antecipar os impactos dela no dia a dia. Esclarece, de forma simples, as diversas áreas do Direito, conectada à realidade do mercado.

David Francisco é advogado e administrador, pós-graduado em Marketing e em Licitações e Contratos, com mais de 20 anos de experiência em gestão empresarial, crédito e varejo. Desenvolve estudos sobre Direito Econômico, relações de consumo, inclusão financeira e desenvolvimento econômico.

Clique aqui para conferir outros textos dele.

As opiniões defendidas pelos colunistas colaboradores e publicadas no Portal Pulsar Notícias não, necessariamente, refletem às opiniões do portal.