Lembra-se quando o conselho removeu o Sam do cargo de CEO? Talvez tenham visto algo que nós não vimos.

Parece que um grande laboratório de IA está a implementar novos protocolos de segurança para os seus modelos. Estão especificamente a focar em construir barreiras para evitar outputs prejudiciais. A abordagem de treino agora inclui ensinar os modelos a lidar com pedidos arriscados sem realmente executá-los.

O timing é interessante, certo? Estas medidas de segurança surgem após meses de debates internos sobre a velocidade do desenvolvimento de IA versus responsabilidade. A estrutura técnica envolve uma triagem em múltiplas camadas antes que qualquer resposta do modelo seja gerada.

O que me chama a atenção: eles já não estão apenas a filtrar outputs. Os dados de treino estão a ser reestruturados para incorporar considerações de segurança desde o início. Uma abordagem diferente da moderação reativa que já vimos antes.

Ainda assim, permanecem dúvidas sobre se estas salvaguardas podem acompanhar a rapidez com que estes sistemas estão a evoluir. A diferença entre capacidade e controlo continua a aumentar.