A equipe da OpenAI está envolvida em uma profunda polêmica após as declarações de sua diretora de tecnologia, Mira Muratti. A especialista em tecnologia digital afirmou que a empresa não descarta permitir nudez em sua nova inteligência artificial, Sora.
Estas declarações marcam um antes e um depois no uso da inteligência artificial. Vamos lembrar da problemática que existe com o uso de sistemas de aprendizado de máquina para gerar conteúdo pornográfico relacionado a animes, quadrinhos, personagens de cinema e até mesmo com o rosto de atrizes famosas.
Vamos que o problema vai muito além. No final de 2023, houve um caso na Espanha em que alguns meninos da escola colocaram o rosto de suas colegas, adolescentes, em corpos nus de mulheres e as extorquiram para divulgar as imagens.
É uma clara evidência de que a IA está sendo usada para gerar conteúdo adulto sem qualquer tipo de restrição. Sora, a nova IA da OpenAI e todas as inteligências artificiais querem ser colocadas dentro de um instituto de regulação chamado AI Policy Institute (AIPI), de acordo com a matéria da 3D Juegos Latam.
O criador deste programa, Daniel Colson, diz que "para o bem ou para o mal, a realidade é que provavelmente cerca de 90% da demanda de vídeo gerado por IA é pornográfica". Muratti, da OpenAI, embora não se oponha à regulamentação, quer que sua IA permita nudez artística e analise que conteúdo desse tipo "é útil e qual é o nível de flexibilidade que a ferramenta de regulação deve fornecer".
Sora, ao contrário de seus irmãos DALL-E ou ChatGPT, é uma inteligência artificial da OpenAI capaz de gerar vídeos a partir de uma simples descrição de texto. Ela pode criar materiais audiovisuais de até um minuto, nesta fase inicial em que se encontra.
É necessário revisar os termos de censura, privacidade e regulação antes que se torne generalizado. A entrada nas redes sociais é um exemplo da presença de conteúdo explícito sem qualquer tipo de restrição.