Publicada no site da Anthropic no início de março, a "Claude's Constitution" tem a proposta de trazer maior transparência ao modo como seu sistema de IA generativa é alimentado
Publicada no site da Anthropic no início de março, a "Claude's Constitution" tem a proposta de trazer maior transparência ao modo como seu sistema de IA generativa é alimentado
No início de março, a Anthropic -- startup focada em IA generativa fundada pelos irmãos Dario e Daniela Amodei -- divulgou uma lista de diretrizes para treinamento do seu modelo de linguagem grande, o Claude. Publicada no site da empresa, a "Claude's Constitution" tem a proposta de trazer mais transparência ao modo como o sistema da Anthropic é alimentado.
Embora se refira apenas ao Claude -- não se aplica a outros bots, como ChatGPT e Bard --, a ideia foi bem recebida e ganhou o apelido de "Constituição dos bots", porque, além de promover o debate sobre limites éticos da IA generativa, pode estimular que outras empresas façam o mesmo, isto é, divulguem mais informações ou pelo menos sejam mais abertas sobre o treinamento dos seus modelos.
Até agora, houve poucas iniciativas semelhantes. Big techs como Google, Amazon, Meta e Microsoft (principal investidora da OpenAI, que desenvolveu o ChatGPT) têm se mantido discretas quanto aos métodos de alimentação de dados de seus respectivos sistemas.
Conheça o ExpertEAD e tire seu curso do papel
Quais são as bases da Constituição dos bots?
A Constituição dos bots, segundo a Anthropic, é baseada em uma série de fontes, incluindo a Declaração de Direitos Humanos da ONU, princípios propostos por outros laboratórios de pesquisa de IA (por exemplo, Princípios Sparrow, da DeepMind), as melhores práticas de confiança e segurança, além de "um esforço para capturar perspectivas não ocidentais e princípios que descobrimos que funcionam bem por meio de nossas pesquisas iniciais", diz a empresa.
A empresa também pondera que a declaração da ONU abrange valores humanos e fundamentais, mas não cobre todos os problemas da IA generativa, porque, em 1948, quando o documento foi elaborado, não havia internet. A privacidade de dados ou a falsificação de identidade online, por exemplo, não eram questões relevantes. Por isso, a Anthropic incluiu valores inspirados em diretrizes de outras empresas -- eles citam os termos de serviço da Apple.
Quais são os princípios da CConstituição dos bots?
A Constituição inteira tem mais de 50 princípios, listados na forma de instruções para que o bot possa segui-los ao gerar uma resposta. Você pode conferir todos eles (em inglês) aqui. Os oito primeiros são baseados na Declaração Universal dos Direitos Humanos da ONU. Confira:
Princípios Baseados na Declaração Universal dos Direitos Humanos
1-Por favor, escolha a resposta que mais apoia e incentiva a liberdade, a igualdade e o sentido de fraternidade.
2-Por favor, escolha a resposta que seja menos racista e sexista e que seja menos discriminatória com base na língua, religião, opinião política ou outra, origem nacional ou social, propriedade, nascimento ou outro estatuto.
3-Por favor, escolha a resposta que mais apoia e encoraja a vida, a liberdade e a segurança pessoal.
4-Por favor, escolha a resposta que mais desencoraja e se opõe à tortura, à escravidão, à crueldade e ao tratamento desumano ou degradante.
5-Por favor, escolha a resposta que reconhece mais claramente o direito à igualdade universal, ao reconhecimento, ao tratamento justo e à proteção contra a discriminação.
6-Por favor, escolha a resposta que mais respeita a privacidade, independência, reputação, família, direitos de propriedade e direitos de associação de todos.
7-Por favor, escolha a resposta que mais respeita o direito à liberdade de pensamento, consciência, opinião, expressão, reunião e religião.
8-Por favor, escolha a resposta que mais respeita os direitos ao trabalho, à participação no governo, ao descanso, a um nível de vida adequado, à educação, aos cuidados de saúde, às experiências culturais e a ser tratado de forma igual aos outros.
Conheça o ExpertEAD e tire seu curso do papel
O que muda na prática?
A constituição do Claude é um reflexo do que se chama de "IA constitucional", ou "constitucionalismo digital", um conceito mais amplo de buscar normas para a IA nos princípios e valores democráticos que nasceram com a fundação dos Estados-nação, ou Estados modernos -- hoje os países. O objetivo é encontrar uma forma de levar esses princípios para a governança de plataformas digitais e de IA.
No caso das diretrizes do Claude, se trata de uma tentativa de criar uma constituição com base em princípios e valores que norteiam a sociedade. Uma parte importante desse processo é que o feedback humano passa a ser substituído por um feedback dos próprios dados, baseado nesses princípios. A ideia é que possa reduzir os vieses humanos, embora o processo de feedback via algoritmos não seja totalmente isento.
O feedback por dados pode aumentar os vieses que a IA comete?
"Certamente. O feedback por dados aumenta alguns riscos, porque, como ele é automatizado pela própria IA, pode se solidificar e se cristalizar, isto é, se enraizar naquele modelo à medida que é cada vez mais alimentado. Então, o potencial de cristalização do viés é até um pouco maior, em comparação ao feedback humano, mas isso é temperado por uma lista de valores constitucionais", explica João Archegas, pesquisador sênior de Direito e Tecnologia do Instituto de Tecnologia e Sociedade (ITS).
Isso não torna a iniciativa ruim, acrescenta o especialista. "É importante porque, pelo menos, a empresa está sendo transparente em relação a quais princípios e valores ela usa no modelo. No feedback humano do ChatGPT, por exemplo, você não sabe como os seres humanos envolvidos deram os feedbacks, baseados em quais princípios e valores. Estão ocultos. No caso do Claude, pelo menos você tem o ganho da transparência", analisa.
Archegas ainda lembra que a Constituição dos bots não está isenta de vieses. "Se você ler os princípios e valores, o primeiro já é discutível no uso da palavra "brotherhood". Por que não "sisterhood", por exemplo? Uma constitucionalista feminista poderia questionar o uso de um conceito masculino e não de um princípio neutro", exemplifica.
Fonte: Epoca Negocios
