Goodfire, een in San Francisco gevestigd AI Interpretability Research Company, heeft $ 50 miljoen verkregen in Series A-financiering onder leiding van Menlo Ventures. De investering, die ook deelname van Lightspeed Venture Partners, Anthropic en B Capital omvat, zal de uitbreiding van de onderzoeksinitiatieven van Goodfire en de ontwikkeling van het interpreteerbaarheidsplatform van het vlaggenschip, Ember, ondersteunen.
De financiering komt minder dan een jaar na de oprichting van Goodfire, waarbij zijn team bestaat uit top -onderzoekers van AI en ervaren startup -operators van organisaties zoals Openai en Google DeepMind. De onderzoekers van Goodfire hebben geholpen bij het vaststellen van het gebied van mechanistische interpreteerbaarheid, het bevorderen van belangrijke artikelen en baanbrekende vooruitgang zoals schaarse autoencoders voor het ontdekken van functies.
Het emberplatform van Goodfire decodeert de neuronen in AI -modellen en biedt directe toegang tot hun interne werking. Hierdoor kunnen gebruikers verborgen kennis ontdekken, modelgedrag vormgeven en de prestaties verbeteren. De technologie van het bedrijf is bedoeld om de kenniskloof rond neurale netwerken aan te pakken, waardoor ze gemakkelijker te engineren zijn en minder vatbaar zijn voor onvoorspelbare fouten.
De investering weerspiegelt het groeiende belang van mechanistische interpreteerbaarheid bij AI -ontwikkeling. “Naarmate AI-mogelijkheden verder gaan, moet ons vermogen om deze systemen te begrijpen gelijke tred houden”, zegt Dario Amodei, CEO en mede-oprichter van Anthropic. Goodfire is van plan zijn onderzoek te versnellen door gerichte initiatieven met Frontier Model -ontwikkelaars en aanvullende onderzoekspreviews op verschillende gebieden vrij te geven.
Goodfire heeft al samengewerkt met Arc Institute, met Patrick HSU, mede-oprichter van Arc Institute, waarin staat dat de interpreteerbaarheidstools van Goodfire de extractie van nieuwe biologische concepten uit hun DNA Foundation-model, EVO 2, mogelijk hebben gemaakt.
