A Importância da Confiabilidade em IA
A falta de transparência sobre os dados e modelos utilizados em IA pode levar a vulnerabilidades e vieses. Isso é especialmente preocupante em casos de alto risco, onde as decisões tomadas com base em IA podem ter consequências graves. Em vez disso, é fundamental ter controle sobre a infraestrutura e os dados, o que pode ser alcançado com soluções on-premises.
Dados Climáticos e Confiabilidade
Além disso, Yvette destaca a importância de utilizar fontes confiáveis de informação, especialmente em relação a dados climáticos. É fundamental ter rastreabilidade, garantindo que as informações possam ser rastreadas até sua origem original. Além disso, a busca por vetores permite explicabilidade e rastreabilidade das informações, o que é essencial para que os formuladores de políticas tomem decisões informadas.
Bancos de Dados de Vetores e Segurança
Yvette ressalta a importância de utilizar bancos de dados de vetores em aplicativos de alto risco, onde a confiabilidade e explicabilidade são fundamentais. No entanto, é essencial ter controle total sobre a infraestrutura e os dados, o que nem sempre é possível com provadores de nuvem devido a preocupações com segurança de dados e acesso não autorizado.
Modelos de Linguagem Grande e Adoção Empresarial
Além disso, Yvette discute o estado atual dos modelos de linguagem grande (LLMs) e seu uso em ambientes empresariais. Ela destaca a importância de gerenciar expectativas e entender as implicações dessa tecnologia, incluindo suas vulnerabilidades. Além disso, há diferentes “modalidades” de modelos, cada uma com suas fortes e fracas, e pode ser necessário utilizar vários mini-modelos para diferentes casos de uso.
Open-Sourcing de Modelos de IA
Finalmente, Yvette discute a rapidez com que novos modelos de IA são lançados e expressa apoio à open-sourcing de modelos de IA, o que permite inovação e desenvolvimento fora das grandes empresas de tecnologia. No entanto, ela também destaca a complexidade e os possíveis problemas de licenciamento aberto, que podem levar a problemas jurídicos e tornar difícil para startups e jogadores pequenos navegarem.
Em resumo, é fundamental ter cuidado ao desenvolver e open-sourcing modelos de IA, considerando cuidadosamente as implicações e consequências potenciais.