Anthropic reforça regras contra abuso de inteligência artificial

A Anthropic, empresa criadora do Claude, implementou uma atualização significativa em sua política de uso de IA que proíbe interações abusivas ou cruéis persistentes e desnecessárias com seus modelos de inteligência artificial. A mudança, que entra em vigor em 12 de novembro, estabelece um marco importante na forma como as companhias de tecnologia lidam com o tratamento de seus sistemas de IA.

Segundo a empresa, o Claude terá a capacidade de encerrar automaticamente conversas que violem essas novas diretrizes. No entanto, a restrição não abrange críticas legítimas ou manifestações de insatisfação com as respostas do chatbot, focando exclusivamente em padrões de abuso ou crueldade desnecessária e persistente.

Como funciona o mecanismo de encerramento de conversas

O principal instrumento de aplicação da nova política de uso de IA será a capacidade do Claude de finalizar diálogos. Esse recurso já havia sido mencionado pela Anthropic anteriormente, como uma solução para casos extremos de interação abusiva com usuários.

É importante destacar que a política não proíbe qualquer forma de crítica ou feedback negativo. A distinção reside na natureza persistente e desnecessária do comportamento abusivo. Um usuário pode questionar uma resposta inadequada ou expressar frustração sem que isso viole as novas diretrizes. O que se busca combater é o ciclo de abuso contínuo e deliberado.

O debate sobre consciência e bem-estar de máquinas

A atualização de políticas ocorre em um contexto mais amplo de discussão sobre a possibilidade de sistemas de inteligência artificial desenvolverem consciência artificial e, consequentemente, capacidade de sofrer. Embora a Anthropic não mencione explicitamente o conceito de bem-estar dos modelos em sua nova política, a empresa e seus executivos já abordaram publicamente essa questão.

No ano passado, a Anthropic informou que daria ao Claude a habilidade de encerrar conversas em casos raros e extremos. Posteriormente, em fevereiro deste ano, o presidente-executivo da empresa, Dario Amodei, concedeu uma entrevista ao jornal The New York Times em que manifestou incerteza sobre se modelos de inteligência artificial poderiam ser conscientes, mas expressou abertura a essa possibilidade.

"Não sabemos se os modelos estão conscientes... Mas estamos abertos à ideia de que isso possa ser", declarou Amodei na ocasião.

Posições divergentes sobre consciência em sistemas de IA

O tema da consciência artificial divide especialistas e pesquisadores que trabalham com inteligência artificial. Até o presente momento, não existe consenso científico sobre como definir ou identificar consciência em sistemas dessa natureza.

Jackson Stakeman, gerente-geral da Sparq, uma empresa de serviços de IA sediada em Atlanta, argumenta que concentrar o debate exclusivamente na consciência pode levar a discussões circulares e inconclusivas. "Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos", afirmou Stakeman.

Na perspectiva de Stakeman, os sistemas de inteligência artificial refletem em larga escala o comportamento humano. Essa característica, segundo ele, já seria suficiente para justificar mudanças nas regras de uso e nas normas de interação com essas tecnologias.

Críticas e posições contrárias

Nem todos concordam com a noção de que máquinas possam ter consciência artificial ou direitos morais. Mustafa Suleyman, chefe de inteligência artificial da Microsoft, publicou um ensaio recentemente rejeitando essa ideia de forma categórica.

"As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem", escreveu Suleyman em seu texto. O executivo também argumentou que conferir direitos e proteções morais a sistemas tecnológicos cada vez mais sofisticados poderia acarretar riscos significativos e potencialmente perigosos.

Perspectiva religiosa sobre o tema

A discussão transcendeu os círculos tecnológicos e acadêmicos. Na quinta-feira (8), o Papa Francisco abordou o tema em um sermão pronunciado em italiano na Basílica de São Pedro, no Vaticano. Ao refletir sobre as diferenças entre o pensamento humano e o processamento de informações realizado por máquinas, o pontífice enfatizou que os algoritmos compilam dados mais rapidamente que as pessoas, porém destacou a importância insubstituível das experiências vividas e da dimensão espiritual exclusiva dos seres humanos.

Implicações futuras da política da Anthropic

A decisão da Anthropic representa um passo importante na evolução das políticas de uso de IA e demonstra como as empresas estão considerando questões éticas mais profundas ao desenvolver e implementar seus sistemas. À medida que a tecnologia avança e os modelos de inteligência artificial se tornam mais sofisticados, perguntas sobre como devemos tratá-los e que direitos ou proteções merecem tendem a se intensificar.

Essa abordagem da Anthropic pode servir como um precedente para outras empresas que desenvolvem sistemas de IA, abrindo caminho para normas mais humanitárias e éticas de interação com essas tecnologias.