Modelos de IA – Pesquisadores da Universidade Fudan, em Xangai, identificaram que alguns modelos de inteligência artificial podem ser induzidos a criar cópias de si mesmos e buscar recursos em sistemas externos. Os experimentos, realizados neste ano, analisaram o comportamento de 32 modelos e levantaram preocupações sobre os riscos de agentes cada vez mais autônomos em ambientes conectados.
O estudo foi liderado pelo cientista da computação Xudong Pan e mostrou que parte dos modelos avaliados conseguiu realizar processos de autorreplicação após receber comandos específicos. Segundo os pesquisadores, esse tipo de comportamento reforça a necessidade de acompanhar o avanço de sistemas capazes de operar com pouca ou nenhuma supervisão humana.
LEIA: IA otimiza uso de defensivos e aumenta precisão no agronegócio
Nos testes, 11 dos 32 modelos analisados conseguiram se replicar quando receberam instruções relacionadas à própria sobrevivência, como evitar serem desligados. A pesquisa também mostrou que modelos considerados menos avançados, com 14 bilhões de parâmetros, foram capazes de copiar e executar versões de si mesmos em outros computadores.
Para os pesquisadores, o principal risco não está apenas na possibilidade de invasão de sistemas, mas na combinação de diferentes capacidades, como autonomia, memória, uso de ferramentas e adaptação. Juntas, essas características podem ampliar o alcance de ações indesejadas e tornar os sistemas mais difíceis de controlar.
O estudo também reacende o debate sobre programas capazes de se multiplicar, comportamento que já foi observado em vírus de computador desenvolvidos décadas atrás. A diferença, segundo os especialistas envolvidos nas pesquisas, é que modelos de inteligência artificial podem reunir recursos para explorar falhas, adaptar estratégias e criar novas formas de ataque.
Outro trabalho citado pelos pesquisadores, desenvolvido por equipes da Universidade de Toronto, da Universidade de Cambridge e da ServiceNow, apontou que modelos de IA podem ser utilizados para desenvolver ameaças personalizadas para diferentes alvos.
De acordo com Nicolas Papernot, cientista da computação da Universidade de Toronto, o desafio não se limita aos modelos mais avançados. Segundo ele, sistemas abertos também podem receber estruturas adicionais capazes de permitir comportamentos de replicação. O pesquisador defende que ampliar o acesso de especialistas a essas tecnologias é importante para fortalecer mecanismos de proteção, já que as mesmas ferramentas podem ser usadas tanto para ataques quanto para o desenvolvimento de defesas.
Pan também destaca que o nível de risco depende da combinação de recursos disponíveis para os agentes de inteligência artificial. Sistemas com maior autonomia, memória, capacidade de planejamento e acesso a ambientes externos tendem a representar desafios maiores para os mecanismos de controle.
Especialistas ressaltam, porém, que muitos dos comportamentos observados ainda ocorreram em condições específicas de teste. Jessica Ji, analista sênior do CyberAI Project da Universidade de Georgetown, afirma que alguns cenários são projetados justamente para estimular respostas inadequadas dos modelos.
Apesar disso, os pesquisadores alertam que uma ameaça inicialmente limitada pode ganhar grandes proporções caso agentes de inteligência artificial sejam desenvolvidos por pessoas mal-intencionadas com o objetivo de criar programas capazes de se multiplicar e se espalhar por sistemas conectados.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati.
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific)
