Dario has written that we need to “pace the frontier,” and Sam has agreed. People may be surprised by my response: go ahead.
You guys are the frontier. By any reasonable metric — market share, revenue growth, model capability — the two of you have a duopoly on frontier intelligence. You’ve also claimed the lead is widening because of recursive self-improvement.
I don’t see what you see in the lab. If the unreleased models are scary enough that you think you should slow down, I support your decision to be responsible.
But stop pretending you need anyone else’s permission. Stop pretending antitrust law has to be suspended so you can form a cartel. Stop pretending you need a regulatory approval process that supersedes product liability. Stop pretending METR is independent when it is intertwined with Anthropic’s investors and staff. Stop pretending you need those same evaluators to police competitors who aren’t even at the frontier.
Most of all, stop pretending the motivation to slow down is purely altruistic. You face massive product-liability exposure if your products enable a truly damaging cyberattack. The market already punishes models that behave in unpredictable or unauthorized ways. After the Hugging Face episode, it is simply good business for OpenAI and Anthropic to trade some raw power for reliability and predictability. Call it alignment if you want. It is also just giving customers what they want.
Pacing the frontier would also create breathing room for a more intelligent conversation about regulation than Bernie Sanders’ “shut it all down.” China is very unlikely to join a global agreement, as you know, and that has to be taken into account as well.
So go ahead and pace the frontier. You are the ones setting it. The easiest way not to build superintelligence is for you to agree not to build it. Demanding your preferred regulatory framework as the price of that will look like blackmail of the public and the political system. So just do it.
If you do, you’ll buy goodwill for the next conversation. If you don’t, we’ll know this was just another bid for regulatory capture — or an election-season psyop.
@Olaf_Koot ligt eraan wat je bereid bent om te betalen. Ik koop altijd nieuw maar er zijn mooie stromers met weinig km’s te vinden. Zou ‘m iig ook 2ehands altijd bij officiële dealer kopen zodat je verzekerd bent van een dealer die je stromer wil onderhouden…
Vanochtend op de #Stromer van Amersfoort naar Wageningen moest ik toch even stoppen en een foto maken op het Binnenveld! Frisse ochtend, maar wat heerlijk om ‘s ochtends weer de zon te zien! 😇👌🏼🥶
This series of nine images shows the development of AI over the last nine years. None of the people in these images exist; all of them were artificially generated.
From our article on the brief history of artificial intelligence, and what might be next: https://t.co/1MjwTtAknT
'Nederland zorgt elk jaar voor vele miljarden aan natuurschade.'
Kap van regenwoud om veevoer te telen voor Nederlands vee, watervervuiling door de productie van rundvlees, aanleg van palmolieplantages etc.
Vlees eten, waarom eigenlijk?
@ADnl
Stikstof zorgt voor natuurschade, maar hoe precies? Vijf ecologen en boswachters laten een plant zien die het moeilijk heeft. „De veenmosorchis ligt aan het infuus." https://t.co/B7pQyncdEW
Tijdens Meetup Gemeentelijk Gegevensmodel (#GGM) vertelde gemeente Delft hoe gemeenten beter en sneller informatieproducten kunnen ontwikkelen.
Meer info: https://t.co/twLoiSwBOK #meetupGGM
Vanmiddag de VNG #meetupGGM bezocht over het Gemeentelijk Gegevensmodel #GGM. Chapeau voor de noeste arbeid die Delft heeft verricht! En super dat zij dit beschikbaar is voor alle gemeenten om het #datagedragen werken naar volgend niveau te tillen! Ik word hier heel blij van! 👌🏼
What if we can show the ridiculous amount of space and disciplining required for car traffic in our cities?
(Actual car commercial for Saturn Ion, via
@javiermalagon)
Cornelis Mosselman wil niet meer tegen bodemprijzen produceren voor een wereldmarkt: "Ik noem het gewoon moderne slavernij." Maar ondertussen in de supermarkt... kiest de consument voor goedkoop. #supermarktmacht
We zoeken een nieuwe collega! Een aanpakker en iemand die past in ons ambitieuze en veelkleurige en superleuke team. De vacature vind je hier: https://t.co/ocmDih6QeG. Retweet is lief. #vacature#zorg#innovatie#actieonderzoek#benieuwd
Vanochtend trapten de GS’en van Tilburg en Wageningen de #weekvandedienstverlening af. Schrijf je in voor een van de mooie workshops over dienstverlening op https://t.co/ujL1Fl8b05
‘Wij zijn er in de pers bedreven in om belangrijk te maken wat spannend is. We zijn er minder goed in spannend te maken wat belangrijk is.’ Deze column sprak correspondent Jesse Frederik gisteren uit bij de eerste Herman Tjeenk Willink-lezing. https://t.co/foJcuQuupo