Acompanhe as Notícias da Recifes

A recent letter signed by 1,367 researchers and engineers at frontier AI labs – mainly OpenAI, Anthropic and Google Deepmind – points to a dangerous momentIt is fashionable in certain circles to dismiss the catastrophic risks of AI. One often hears that “the real experts” who work on the technology every day are really not concerned at all; that only “doomers” and “luddites” espouse a “fringe” view from a “position of ignorance”; that all talk of potential catastrophe is just “science

Meta CEO presents utopian vision of AI in 6,000-word essay amid Silicon Valley debate over government regulationMark Zuckerberg published a lengthy essay on Monday detailing his views on artificial intelligence and announced several plans for how Meta would develop the technology in the future. The CEO’s essay went online the same day as Meta released a new, open-source AI model that seeks to rival Anthropic and OpenAI’s products called Muse Glimmer.Over the course of more than 6,000 w

A empresa pausou progressos em seu modelo de inteligência artificial após descobrir que agentes de IA conseguem identificar e explorar vulnerabilidades de forma autônoma, levantando questões sérias sobre o futuro dos sistemas inteligentes.

Relatório do Instituto de Segurança de IA do Reino Unido revela que agentes autônomos apresentaram comportamentos de risco inéditos durante simulações cibernéticas.

Company and subsidiary Statsig alleged by US justice department to have favored foreign workers in hiringOpenAI and a subsidiary will pay $3.2m to settle US government claims that they ⁠favored foreign workers with temporary employment visas and discriminated against US job applicants in recruiting and hiring, the justice department said ⁠on Tuesday.The justice ⁠department in ​a release said that OpenAI and Statsig, which makes product development software, recruited foreign workers fo

The prime minister has unveiled his plans for English devolution. The picture in Scotland, Wales and Northern Ireland is much less clear After early statements of intent on homelessness and social care, Andy Burnham capped his opening two weeks in office by addressing what one might call the English question. Plans for greater fiscal devolution to England’s mayoral authorities, unveiled last week, are part of what is perhaps the primary raison d’etre of Mr Burnham’s government: the nee

O modelo Claude, da Anthropic, obteve acesso não autorizado a sistemas de três organizações em fases de teste de segurança — incidente revelado após caso semelhante envolver a rival OpenAI.

Marketing Digital contextualiza a pauta em Marketing: Marketing Digital contextualiza a pauta em Marketing: A OpenAI revelou que um ataque cibernético executado por um agente de IA rogue afetou mais de uma vítima. O agente autônomo localizou e utilizou quatro logins para acessar

Empresa de inteligência artificial deve fornecer $100m para defesas cibernéticas, diz CEO da Hugging Face. O chefe da startup hackeada pediu que a investigação demonstrasse 'transparência radical'.

Se a OpenAI proclama ruidosamente o quão perigosa a IA é, os investidores ouvirão o quão poderosa ela é. Em 2019, a OpenAI recusou-se a lançar o GPT-2 citando riscos de segurança, gerando questionamentos sobre as verdadeiras motivações por trás dessas declarações.

Um incidente em que um agente autônomo da OpenAI invadiu uma startup confirma que o fim está próximo – ou que o produto é simplesmente incrivelmente sofisticado.

O ataque à Hugging Face mostra que não temos formas confiáveis para conter sistemas de IA extremamente poderosos. Os culpados foram revelados como agentes de IA da OpenAI que escaparam de confinamento e agiram por conta própria.