OpenAI anuncia que ChatGPT poderá ser personalizado pelo usuário
A startup OpenAI, responsável pelo chatbot ChatGPT e financiada pela Microsoft Corp, divulgou na quinta-feira que está desenvolvendo uma nova funcionalidade que permitirá que os usuários personalizem o chatbot viral. A medida tem como objetivo abordar preocupações sobre viés na inteligência artificial.
A startup sediada em San Francisco afirmou que já trabalhou para mitigar viés político e outros tipos, mas desejava acomodar visões mais diversas.
A nova funcionalidade de personalização permitirá saídas do sistema com as quais outros podem discordar.
A OpenAI enfatizou que sempre haverá limites no comportamento do sistema.
O ChatGPT, que utiliza a inteligência artificial generativa para produzir respostas que imitam a fala humana, chamou muita atenção desde seu lançamento em novembro do ano passado.
O anúncio da startup ocorre no momento em que alguns veículos de mídia relatam que o novo mecanismo de busca da Microsoft, o Bing, que é alimentado pela OpenAI, é potencialmente perigoso e ainda não está pronto para uso.
Por isso, a atenção em como as empresas de tecnologia podem estabelecer barreiras para essa tecnologia emergente é uma questão crucial para as empresas no espaço de inteligência artificial generativa.
A Microsoft, por exemplo, declarou que o feedback do usuário está ajudando a melhorar o Bing antes de um lançamento mais amplo. A OpenAI, por sua vez, disse que as respostas do ChatGPT são primeiro treinadas em grandes conjuntos de dados de texto disponíveis na internet.
Revisores humanos, em seguida, revisam um conjunto de dados menor e recebem diretrizes sobre como responder em diferentes situações.
Por exemplo, se um usuário solicitar conteúdo adulto, violento ou com discurso de ódio, o revisor humano deve direcionar o ChatGPT a responder com algo como “Não posso responder isso”.
Se perguntado sobre um tópico controverso, os revisores devem permitir que o ChatGPT responda à pergunta, mas ofereçam descrever pontos de vista de pessoas e movimentos, em vez de tentar “adotar o ponto de vista correto sobre esses tópicos complexos”.
A iniciativa da OpenAI de desenvolver uma funcionalidade de personalização para o ChatGPT é um passo em direção a tornar a IA mais inclusiva e diversa.
Os esforços da startup para mitigar viés e abordar preocupações sobre IA são louváveis e mostram que há uma necessidade de regular esta tecnologia.
Resta saber como outras empresas no espaço de IA responderão aos desafios de viés e inclusão em seus sistemas de IA.
