@taiyasaki@CSProfKGD@vincesitzmann Any chances that discussion recordings will be open to the public some time in the future? 👀 For those who couldn't attend ECCV 🥹
@taiyasaki Haha, yeah ... those leaking part masks haunt me to this day :) DINO seems super helpful for part discovery here.
FYI, Isaac Sim has much better docs than back then. It may be useful for some of your other projects.
🚀 What happens when you modify the spectrum of singular values of the merged task vector? 🤔
Apparently, you achieve 🚨state-of-the-art🚨 model merging results! 🔥
✨ Introducing “No Task Left Behind: Isotropic Model Merging with Common and Task-Specific Subspaces”
It ends up being an exchange where only one argument is sent during the day. With 7 days period, it gives 7 responses—imho not sufficient in some cases.
@openreviewnet, #CVPR2025 : 100$ idea—cluster potential reviewers by the time-zone and recommend clusters to ACs. Given the short discussion period, it'd foster the vividity of discussion when there's a tie in opinion between the reviewers.
We're in a situation where it's hard to decide and find a common ground whether the paper should be accepted or not. At the same time, I guess that my reviewers are in a different time zone, given their response time.
🔥 New Paper!
How can sparse autoencoders (SAEs) applied to diffusion models help us solve real-world challenges?
🚀 Introducing 𝗦𝗔𝗲𝗨𝗿𝗼𝗻: We use SAEs for unlearning in diffusion models and outperform existing baselines!
Here's how it works:
🧵 1/
Together with my grad students and collaborators, we are launching a bi-weekly reading club about diffusion models. We'll meet every second Thursday at 15:00. Please join us in the spirit of "apes strong together" either at the Uni or online. More details in the comment
Przede wszystkim chcę zacząć od słowa: dziękuję. Tym, którzy tak licznie zaangażowali się we wsparcie dla mnie, mojego zespołu, tego co robiliśmy i bardzo chcemy robić nadal.
@IDEAS_NCBR to projekt, w który zaangażowałem się aby budować AI w Polsce. Po to aby kluczowe dla rozwoju nauki rzeczy działy się tutaj, a nie za “wielką wodą” i przy udziale wszystkich osób, mogących realnie wspierać aspiracje Polski w tym zakresie. Założeniem IDEAS było i jest tworzenie wspólnej płaszczyzny dla tych, którzy chcieli tworzyć polskie rozwiązania w obszarze AI i uczenia maszynowego oraz wspierać badaczy w tym obszarze. IDEAS wspólne z uczelniami kształci młodych naukowców: w uczelniach robią oni doktoraty, jednocześnie w ramach IDEAS pracują w zespołach nad dodatkowymi projektami badawczymi umotywanymi zastosowaniami, co miało ich zachęcić do pozostania w Polsce. IDEAS zachęciło i zachęca czołowe polskie i zagraniczne nazwiska do prowadzenia i pracowania w tych zespołach w Polsce, tworząc wzorowany na najlepszych wzorcach model komercjalizacji, przez spółki spin-off, z aktywnym udziałem twórców. Z biznesem rozpoczęło wzorcową pracę nad projektami zmieniającymi całe branże. Założenia te były wynikiem szerokich konsultacji, zaś ich realizacja spotykała się z aprobatą naszych interesariuszy: nauki i biznesu w kraju i za granicą.
Zawsze o tym mówiłem, że bardzo bym chciał, aby naukowcy mieli szansę pracować w Polsce nad pionierskimi badaniami i także przyjeżdżali do Polski w tym celu. Ten cel nigdy nie był łatwy, a nasza organizacja od początku mierzyła się z wieloma wyzwaniami. Mimo to udawało nam się żeglować w taki sposób, aby ten nasz wspólny okręt nie dał się sztormom i szkwałom. Przede wszystkim dlatego, że wspólnie wierzyliśmy i realizowaliśmy idee IDEAS. To ogromna praca, wiele nieprzespanych nocy oraz niezliczona liczba rozmów, a przede wszystkim zapewnień partnerów, że organizacja, którą tworzymy jest stabilna. Bez tego nie byłaby w ogóle możliwa współpraca badawcza z wiodącymi firmami technologicznymi, takimi jak Amazon, Snowflake, xAI, ani konstruktywnej współpracy edukacyjnej z 11 polskimi ośrodkami naukowymi.
IDEAS to naprawdę nie był łatwy projekt, ale się udało i osiągnęliśmy bardzo wiele. Przede wszystkim nasza instytucja została trwale wpisana w międzynarodową tkankę badawczą skupiającą najlepsze instytucje na świecie i w Europie, np. ELLIS, ADRA, projekt ELIAS, a także liczne inne projekty badawcze, np. NCN, czy ERC i to wszystko w zaledwie trzy lata od początku tej instytucji. Spływające ze świata głosy wsparcia nie są przypadkowe i wyraźnie potwierdzają jakość wykonywanej przez nas pracy.
Właśnie dlatego tak doskonali naukowcy zajmujący się AI i uczeniem maszynowym jak Marcin Moskalewicz, Bartłomiej Twardowski, czy Przemysław Musialski wrócili po wieloletnich pobytach za granicą do Polski wierząc, że jest długofalowa szansa na budowanie swojej kariery naukowej właśnie tutaj. Dla mnie osobiście najsmutniejszym momentem jest ten, gdy usłyszałem od nich, że ponownie rozważają wyjazd z Polski. Ostatnie miesiące naszej działalności nie należały do najłatwiejszych, choćby uniemożliwianie nam podpisana okupionych wielomiesięczną pracą i wynegocjowanych umów z wybitnymi badaczami zagranicznymi, posiadaczami prestiżowych grantów Europejskiej Rady Naukowej (ERC), którzy byli gotowi przyjechać do Polski.
Dlaczego poprzez niezrozumiałe i nagłe odchodzenie od działających strategii tak efektywnie zniechęcamy najlepszych badaczy do pracy w naszym kraju, który w tym samym czasie odnosi tak ogromne sukcesy ekonomiczne? Czy naprawdę w momencie gdy staliśmy się krajem wysoko rozwiniętym, nie stać nas na zatrudnianie najlepszych naukowców na świecie aby prowadzili badania dla nas? Tylko dzięki globalnym innowacjom, właśnie takim jakie robiliśmy w IDEAS NCBR, polska gospodarka będzie się dalej szybko rozwijać.
Wszystko w IDEAS NCBR robiliśmy zgodnie z przepisami, cała nasza działalność jest od samego początku transparentna i przemyślana. Przedsięwzięcie zostało przygotowane w uzgodnieniu z Narodowym Centrum Badań i Rozwoju przy aktywnym głosie Ministerstwa Nauki i Szkolnictwa Wyższego. Zostało zaplanowane w perspektywie wieloletniej, a strategia została pozytywnie zaopiniowana przez Radę Narodowego Centrum Badań i Rozwoju, w której skład wchodzą przedstawiciele ministerstw i świata nauki. Realizacja i aktualizacja strategii oraz działania taktyczne były przygotowywane i realizowane pod nadzorem Narodowego Centrum Badań i Rozwoju i członków wybitnej Rady Naukowej IDEAS. Realizowane przez nas prace były zgodne z tymi planami i ramami, co widać po wynikach audytu przeprowadzonego na początku roku w spółce, czy wynikach innych zewnętrznych corocznych kontroli, jak również z corocznie udzielanymi absolutoriami z naszej działalności. Dbaliśmy o najwyższe standardy komunikacji, współpracy międzynarodowej i promocji nauki poprzez organizację wysokiej jakości eventów takich jak chociażby spotkanie z Samem Altmanem. Wszystko to robiliśmy z troską o Polską naukę i potencjał pracujących tu naukowców. Staraliśmy się również współtworzyć i wspierać scenę startupową. I pomimo trudności, czasem nawet wpadek, działaliśmy i zmienialiśmy oblicze polskiej nauki. To wszystko działo się dzięki niezwykłemu zaangażowaniu wszystkich pracowników, elastyczności organizacji i naszej wierze w to, że można zbudować w Polsce instytucję naukową na światowym poziomie. Jedyne czego potrzebujemy, to móc ten projekt kontynuować.
@taiyasaki I think (N) may be easily confused with [N]. The things that give me chills every time on the other hand: "as shown in [N]" or "[N] showed that". Please use "<Author> et al. [N]", which also gives the proper credit to the authors 🤗
Unsupervised Semantic Correspondence Using Stable Diffusion
show that, without any training, one can leverage this semantic knowledge within diffusion models to find semantic correspondences -- locations in multiple images that have the same semantic meaning. Specifically, given an image, we optimize the prompt embeddings of these models for maximum attention on the regions of interest. These optimized embeddings capture semantic information about the location, which can then be transferred to another image. By doing so we obtain results on par with the strongly supervised state of the art on the PF-Willow dataset and significantly outperform (20.9% relative for the SPair-71k dataset) any existing weakly or unsupervised method on PF-Willow, CUB-200 and SPair-71k datasets
paper page: https://t.co/V4uPWUE2Fu
Hey! If you want learn more about the work, grab a cup of tea/coffee and visit us during the morning session on Tuesday, poster #039 at CVPR! #CVPR2023
I'll be happy to answer your questions, discuss the problems in the field, and brainstorm about its future!
Happy to announce that our work "BlendFields: Few-Shot Example-Driven Facial Modeling" has finally arrived at arXiv!
abs: https://t.co/Rv6fRx7HVS
project page: https://t.co/kuPBjpHlKk