Otrzymałem list od najważniejszych postaci świata sztucznej inteligencji - czołowych liderów rozwoju AI, naukowców i przedsiębiorców. Dlatego już w styczniu zapraszam ich do Warszawy. Rewolucja AI nie będzie czekać, aż Europa podejmie decyzje. Czas działać.
@jan_dubinski_ This is super cool! I feel like in our SIP paper (https://t.co/48b9W47tv3 ) we use the same mechanism but from the other side; using small portion of clean data to mitigate undesired trait learning and EM
Time flies and I am looking for full time research positions! I am finishing my PhD at Cambridge early 2027. My research focuses on simulating human behavior with LLMs, LLM personalization, evaluating and shaping model behavior, and understanding human–AI interaction. Please get in touch if you are hiring in relavant areas!
New blogpost!
Inoculation Prompting (IP) is a simple idea for controlling unwanted side effects of fine-tuning.
If training data contains both a desired behaviour and an undesired trait, an inoculation prompt can make the undesired trait context-dependent rather than default.
@kurasinski Co za tym idzie, zwiększa się ryzyko że zamiast mierzyć jak model się zachowa pod względem bezpieczeństwa coraz bardziej mierzymy czy (i) model rozpoznaje że jest testowany i (ii) model zna oczekiwaną odpowiedź
@kurasinski Frontier labs same nie rozwiążą AI race dynamics.
Opus 5.5 jest najbezpieczniejszy według testów.
Problemem z nimi jest taki jest taki że aktualne modele są coraz lepsze w rozpoznawania że są testowane.
Artists: but I don't want to lose my job. I love it.
Mathematicians: but I don't want to lose my job. I love it.
Economists: LONG HAVE I AWAITED THIS HOUR! DESTROY ME, EFFICIENCY, AND LET UTILIZATION-ADJUSTED TOTAL FACTOR PRODUCTIVITY RISE ON THE WIND OF MY ASHES!