소시민

sosimin

[소시민 @HellouDennis]

긴 영상도 싫지만 긴 글도 싫거든요. 스레드로 궁금증 유발하며 이어진 x 포스팅으로 쪼갠다면 모를까

[John Oh @john_h_oh]

I hate long video on x.

so I made service that turn long video into interactive book

anyone interested?

[Zack Shapiro @zackbshapiro]

https://t.co/QVaE6niDY2

[Ai2 @allen_ai]

Imagine AI doing science: reading papers, generating ideas, designing and running experiments, analyzing results… How many more discoveries can we reveal? 🧐

Meet CodeScientist, a promising next step toward autonomous scientific discovery. 🧵

[Poonam Soni @CodeByPoonam]

Goodbye Midjourney

It's only been a week since Flux dropped and people are going crazy over it.

Here're the 10 most jaw-dropping examples so far (Don't miss the 7th one)

[충무김밥킬러(unsupervised) @jangwunheui]

2020년도 GPT2를 보고

똑똑한 엔지니어들은 다음단어를 예측하는 자기 회귀 모델일 뿐이라고 냉정하고 비관적인 태도를 보이며

멍청하고 미래에대해 꿈을 꾸는 나는 개쩐다며 내 emacs에 자동완성 언제 달릴지 손꼽아 ��다렸고

공룡 빅테크들은 투자하고 상황보다가 경쟁에 들어갔고

실제로 내 emacs company에 clang을 걷어내는데 2년밖에 걸리지 않았고
또 2년이 지난 지금은 주위 개발자 그 어디를 봐도 GPT없이 개발을 못할지경

기술에 대해 비관적인 태도는 스마트해 보이므로 엔지니어라면 그래야 한다고 생각하지만

장사꾼이라면 미래에 대한 투자는 반드시 해야하고 늦었다고 생각하면 많이 늦은것이고 하지 않는다면 성장은 불가능하고 도태된다는 것을 알아야함

확실한건 난 장사꾼 체질임

[𝘿𝙤𝙪𝙗𝙡𝙚 𝙎 @Double_s_121]

이책을 전에도 추천한 적이 있는데

왜 사회주의는 몰락하는지
왜 개인의 자유가 중요한지
왜 인플레이션은 계속 되는지
왜 화폐를 찍어내면 안되는지
왜 작은 정부, 작은 국가가 더 좋은것인지
왜 부익부 빈익빈이 계속될수밖에 없는지

정말 온 국민이 꼭 보길 바라는 책중 하���
정말 강추합니다.

[리얼치킨보이 @RealChickenBoy9]

아마 이 글에 동의하는 분들은 테슬라를 타보지 않았거나 잘 모르는 상태임을 인정해야함.

전기차 -> 스마트카로의 전환 단계
SDV 와 OTA 기능을 둘 다 제대로 가진 차는 테슬라

구글 뉴스만 찾아봐도
테슬라 따라잡겠다!
테슬라 킬러 등장!
테슬라 OTA 우리도 한다!

이런 뉴스가 많다는건 테슬라가 업계 1위임을 인정하는 것을 의미.

🔋 배터리/충전
충전 인프라가 문제인데 어댑터가 없으면 슈퍼차저밖에 못씀. 제주도에 전기 충전소가 수백개인데 슈퍼차저는 단 두 개. 사용중 어댑터에 오류가 발생해서 25Km 밖에 있는 슈퍼차저에 가서 충전하고 왔음.

->
충전 인프라는 테슬라를 따라 올 차가 없음.
기본 어댑터로 모든 완속 충전기 충전 가능하고
CCS 콤보 1 어댑터 있으면 모든 급속 충전 가능함.
추가로 테슬라 자체 초급속 충전 슈퍼차저가 전국에 있음.
테슬라 3~4년 타면서 완속과 슈퍼차저만 이용해봤음.
사실 다른 급속충전기가 필요없어서 너무 편함.
슈퍼차저는 충전할 때 그냥 충전기 꼽으면 끝임.
카드 결제, 큐알코드 촬영? 이런거 필요없고 꼽았다가 충전 다되고 뽑으면 테슬라에 등록해둔 카드에서 그냥 알아서 결제됌.

압도적인 충전 편의성.
고로 위 글의 내용은 악의적으로 작성됌.
본인 렌터카의 어댑터 문제이지, 차의 문제가 아님.
그리고 결국엔 슈퍼차저가서 충전 했으면서 좋은거 아닌가? 슈차 없었으면 충전도 못하는 상황임에도 슈차가 있어서 무사히 충전 가능했음.

미국은 테슬라 충전 규격이 표준이 될 정도로 편의성과 안정성, 효율성은 인정이 된 상태.

📷 디스플레이에만 있는 컨트롤
아마 다른 차들 타보면 알겠지만 버튼이 너무 많아서 뭐가 무슨 기능인지 모르는 사람이 태반임.
특히 처음 타보는 차면 더욱 그럼..
그럼에도 테슬라는 디스플레이에 기능이 들어가 있기 때문에 직관적으로 쉽게 파악이 가능함.
나이 60 후반인 어머니도 스마트폰 이용 할 줄 알면 누구나 이용할 ��� 있다고 말 할 정도임.
��지어 사촌 동생들도 테슬라 조작 쉽다고 했음.
차에 타서 게임하거나 넷플릭스, 유튜브 봄.

에어컨은 오토로 설정해놓고 온도만 20~22도 사이로 맞춰놓으면 건들게 없음.
풍향 조절 가능함.
디스플레이에서 직관적으로 움직이면 됌.

어머니도 라디오 들으시는데, 음성으로 라디오 조작하심.
터치? 필요없음. 음성인식으로 다 됌.

와이퍼? 핸들 좌 스틱 클릭 한번으로 조절됌.
터치? 필요없음.
스티어링 휠 움직여서 와이퍼 강도 조절 가능함.
자동으로 해놔도 이제는 알아서 잘함.
업데이트로 지속적으로 개선 중.

자동차는 편의성을 갖추고 있으면서 안전해야함.
처음 차 탈 때,
기본 설정을 해두면 운전중에 조작할게 없기 때문에
디스플레이 자주 볼 필요가 없음.

오토파일럿 켜놓고 할거 없으면 전방 풍경,
옆 사람 차 지나가는거 구경함.
사고난 적 없고 위험했던 적 없음.

미러 자동 접힘은 GPS 위치 설정하여 그 위치에 오면 자동으로 접히게 설정한 듯.
이전 렌터카 운전자가 슈차에 설정해둔 걸로 보임.

OTA 업데이트
승차감이 별로 안 좋았고, 오르막에서 브레이크를 뗄 때 차 밀림 현상이 있으며, 자동 와이퍼가 빗물을 제대로 인식하지 못하는 경우가 많았음. OTA 업데이트로 차가 새로워진다면 이런 것을 기대하는 것일텐데, 기본적인 것이 안 좋으니 별로 의미가 없다고 생각됨. 한국은 FSD도 안되고 주차도 안되고. 인포테인먼트 시스템이 업데이트 되는건 부가적인 것이라 중요하지 않음.

-> 승차감이 안 좋다는건 개인 취향이니 패스
오르막에서 차 밀림현상은 겪어 본 적 없음.
아마 크립모드, 홀드모드 확인을 안했을 가능성이 큼.
전기차는 보통 홀드모드로 회생제동 살리는데,
경사 심한 구간에서 밀린 적 없음.
타이어 상태 확인 해보시길..

와이퍼는 위에 써둠.

OTA 업데이트로 차가 새로워짐.
아마 업데이트 경험이 없으신거 같은데,
매번 업데이트 때 마다 차가 바뀐다는 ���낌을 많이 받음.
이거 개선해줬으면 좋겠다 라는게 하나씩 OTA업데이트로 개선 될 때마다 아주 만족함.

그리고 한국도 자동 주차되고, 심지어 평행주차도 잘함.
아마 EAP나 FSD 적용 안된 렌터카 차량인 듯.

📷 내비게이션
인터페이스가 안 좋음. 현재 도로와 이동할 방향의 도로에 대한 정보를 자세히 알려줘야하는데, 테슬라 내비는 그냥 일반 지도 모양에서 현재 위치만 알려주는 수준이라 불편함. 한국용만 그런지 모르겠지만, 한국 내비나 구글 내비가 좋은데 카플레이등으로 연결 할 수도 없으니 더 좋은 내비를 쓸 수도 없음.

-> 내비게이션 최근에 업데이트로 직관적으로 바뀜.
나가는 구간에 T맵과 똑같이 페인트 색깔로 구분 다 해줌.
핑크색으로 나가라, 초록색으로 나가라 T맵과 동일하게 알려줌.
그리고 실시간으로 정체구간도 표시 다 해줌.
지도 ���인 할 필요도 없이 디스플레이에서 직관적으로 확인 가능.

아마 렌터카라서 프리미엄 커넥티비티 안되어 있는듯?
프리미엄 커넥티비티 되어 있으면 위에 불편하다고 했던 기능 전부 다 잘 됌.

테슬라 내장 내비 안 좋다는 건 티맵 안 좋다는 것임.

📷
시계가 너무 작음, 손잡이 없음, 에어컨 바람 방향 조절 안됨. 왠만한 차라면 편하게 사용했을 것들이 안되는게 많음. 테슬라에 익숙해지면 편해진다는데, 사실은 그 반대로 편한 것이 무엇인지 잊게 되는게 아닌가 싶음.

-> 시계 불편하다고 생각해본 적 없어서 잘 모르겠음.
동승자는 손잡이 없어서 신기하다고 함.
에어컨 바람 조절 쉽게 가능.

결론:
어그로 한번 제대로 끌어서 테슬람 긁? 해볼까?
그리고 솔직한 후기라고 하면서 테슬라 안티들한테
동정표좀 받아볼까? 라는 의도성이 다분히 느껴짐.

어그로를 위한 글이었다면 성공적이었다고 봄.

하지만 차 리뷰를 목적으로 글을 썼다면..
잘못된 정보를 바탕으로 정말로 "솔직한 후기"를 원하는 사람들에게는 잘못된 정보로 올바른 판단을 할 수 없게 만드는 글임.

[無異 @taekie]

기존 페이지네이션 UI는 잊어버리고 이렇게 만드세요. 대부분 사용자는 이전, 다음 페이지 이동만 합니다. 특정 페이지로 이동하는 경우는 첫 페이지로 가거나 적당히 페이지를 스킵하고 싶을 때인데. 주변 페이지 몇개만 보여주는 것보다 토글로 전체 페이지를 나열하는 게 더 편합니다. #uxkr

[골빈해커 @golbin]

📝 6년 전 2018��, LLM의 시초격인 BERT와 Llama 3와의 비교.

지금의 LLM이 있게 한 구글의 Transformer 아키텍처를 이용한 (거의)최초의 범용 거대 언어 모델인 BERT는, 약 40억개의 토큰으로 약 1억개의 파라미터(base 기준)를 가진 모델입니다.

Llama 3의 기본 모델이라고 할 수 있는 70B는 70억개의 파라미터를 가진 모델을 15조개의 토큰으로 학습시킨 모델이죠.

BERT 대비 Llama 3의 파라미터는 약 700배, 학습데이터는 약 3,750배입니다. 😳🤯

Llama 3의 제일 작은 버전만 해도 80억개로 약 74배나 되는 크기입니다.

그런데 BERT가 처음 나왔을 때만해도 이것도 크다면서 모두가 최적화에 매진했는데요. 그 중 가장 유명한 ALBERT의 베이스 모델이 약 1천 2백만개로, Llama 3 8B와 비교하면 약 666배가 됩니다. (아..악마의 수!!)

Llama 모델이 아닌 다른 모델 들 중 지금으로써 가장 작은 모델들이 약 1~2B 정도인���요. 그것만 해도 약 10~20배가 됩니다. 그리고 이것들은 모바일에서 쌩쌩 돌아가죠. 😅

그러니까 6년전만해도 대규모 언어 모델이라고 불렸던 것이, 지금은 모바일 버전의 1/10밖에 안되는 모델이 되었다는 것이죠.

그리고 GPT-3가 처음 나왔을 때 175B이라고 해서 미친거 아냐? 소리가 절로 나왔는데, 지금은 음. 뭐 퀀타이제이션해서 좀 무리하면 맥북 최고 사양 정도면(?) 돌릴 수 있는.. 그런 것이 되었죠.

그러니 10년은 커녕 5년 뒤도 예측 할 수 없는게 지금의 기술 업계인 것 같습니다. 이럴 때 일수록 미래를 예측하려하기보다 그냥 하고 싶은 일을 하는게 맞는게 아닌가 싶습니다.

[Rohan Paul @rohanpaul_ai]

llmlingua - This great lib from Microsoft can 𝗰𝗼𝗺𝗽𝗿𝗲𝘀𝘀 your prompt massively.

📌 Up to 20% of the prompt's original length (5x reduction), leading to massively reduced cost and latency.

🔥 speed up LLMs' inference and enhance LLM's perceive of key information, compress the prompt and KV-Cache, which achieves up to 20x compression with minimal performance loss.

📌 Extremeley useful when you are continuously feeding info to an agent. In this situation, you want to progressively compress up the running history of an agent or a chat with an agent to smaller and smaller sizes and feed it back to model, so it can stay on track. LLMLingua is great for doing it.

----

Great solutions for the below problems

- Exceeding Token limit when asking ChatGPT to summarize lengthy texts?

- or ChatGPT forgetting previous instructions after extensive fine-tuning?

- or High costs using GPT3.5/4 API for experiments despite excellent results?

-----

👉 The way it works

📌 LLMLingua-2 compresses long prompts into shorter versions by intelligently removing unnecessary words or tokens while retaining the essential information.

📌 It operates by initially training a model on a collection of original prompts and their shorter counterparts.

📌 This model is designed to determine which words in the original prompt should be retained or discarded in the shortened version.

📌 So LLMLingua-2 inputs the original prompt into the trained model. The model evaluates each word, assigning scores for retention or removal, while taking into account the surrounding context. The words with the highest retention scores are then chosen to construct the shortened prompt..

---------------

Now you can use LLMLingua & LongLLMLingua! 🔥

These tools offer an efficient solution to compress prompts by up to 20x, enhancing the utility of LLMs.

💰 Cost Savings: Reduces both prompt and generation lengths.

📝 Extended Context Support: Enhances support for longer contexts, mitigates the "lost in the middle" issue, and boosts overall performance.

⚖️ Robustness: No additional training needed for LLMs.

🕵️ Knowledge Retention: Maintains original prompt information like ICL and reasoning.

📜 KV-Cache Compression: Accelerates inference process.

🪃 Comprehensive Recovery: GPT-4 can recover all key information from compressed prompts.

📌 For Advanced usage you can do Structured Prompt Compressions. i.e. split text into sections, decide on whether to compress and its rate. Use <llmlingua></llmlingua> tags for context segmentation, with optional rate and compress parameters.

[말러팔삼 @mahler83]

이렇게 보니까 Claude가 3개 모델 성능이나 가격대 포지셔닝을 참 잘 했다 싶네. GPT-4는 시대를 앞선 미친 모델이었고, Haiku는 원트대로 약빤 모델이고

[Lixiang (Jimmie) Yan @jimmie_yan]

📢 Call for Papers: JLA's Special Section on #GenerativeAI and #LearningAnalytics @jla_editorial

Abstract submission (optional): July 15, 2024
Final paper submission: August 01, 2024

Details: https://t.co/7KTcJXK07j

Editors: @haskhosravi @sbuckshum @jeljov @zpardos @jimmie_yan

#GenAI #LearningAnalytics #EdTech #AIED

[Andrej Karpathy @karpathy]

# on shortification of "learning"

There are a lot of videos on YouTube/TikTok etc. that give the appearance of education, but if you look closely they are really just entertainment. This is very convenient for everyone involved : the people watching enjoy thinking they are learning (but actually they are just having fun). The people creating this content also enjoy it because fun has a much larger audience, fame and revenue. But as far as learning goes, this is a trap. This content is an epsilon away from watching the Bachelorette. It's like snacking on those "Garden Veggie Straws", which feel like you're eating healthy vegetables until you look at the ingredients.

Learning is not supposed to be fun. It doesn't have to be actively not fun either, but the primary feeling should be that of effort. It should look a lot less like that "10 minute full body" workout from your local digital media creator and a lot more like a serious session at the gym. You want the mental equivalent of sweating. It's not that the quickie doesn't do anything, it's just that it is wildly suboptimal if you actually care to learn.

I find it helpful to explicitly declare your intent up front as a sharp, binary variable in your mind. If you are consuming content: are you trying to be entertained or are you trying to learn? And if you are creating content: are you trying to entertain or are you trying to teach? You'll go down a different path in each case. Attempts to seek the stuff in between actually clamp to zero.

So for those who actually want to learn. Unless you are trying to learn something narrow and specific, close those tabs with quick blog posts. Close those tabs of "Learn XYZ in 10 minutes". Consider the opportunity cost of snacking and seek the meal - the textbooks, docs, papers, manuals, longform. Allocate a 4 hour window. Don't just read, take notes, re-read, re-phrase, process, manipulate, learn.

And for those actually trying to educate, please consider writing/recording longform, designed for someone to get "sweaty", especially in today's era of quantity over quality. Give someone a real workout. This is what I aspire to in my own educational work too. My audience will decrease. The ones that remain might not even like it. But at least we'll learn something.

[말러팔삼 @mahler83]

"LLM을 활용한 데이터 분석 방법론"이라는 제목으로 강의를 올렸습니다. 노하우를 꾹꾹 눌러담은 강의라서 이걸 이렇게 막 올려도 되나 하는 생각도 듭니다 ㅎㅎㅎ LLM을 연구에 실질적으로 활용하는데 도움이 되기 바랍니다. 진단검사의학회 춘계 학술대회에 발표 예정.
https://t.co/row8U9MNJb

[골빈해커 @golbin]

📝 교육의 미래에 대한 논문

What Should Data Science Education Do with Large Language Models?

워싱턴, 스탠포드, 펜실배니아, 럿거스 대학에서 공동 연구한 논문.

LLM이 이제 데이터 정리, 모델 개발, 해석, 보고서 작성 등 데이터 분석 파이프라인의 거의 모든 일을 다 할 수 있게 되었기 때문에,

전략적 계획, 자원 조정 및 전체 제품 수명 주기를 관리하고, AI가 수행한 분석을 평가하는 제품 관리자로써의 역할을 하는 쪽으로 바뀌어야 한다고 주장한다.

그러기 위해 교육 방법론은 이제 LLM을 통한 창의성, 비판적 사고, AI 기반 프로그래밍 등의 새로운 스킬과 함께, 단일 학문 분야에 국한되지 않는 다양한 도메인의 지식 습득과 커뮤니케이션 등의 인문학적 소양을 키우는 ��으로 바뀌어야 한다고 말한다.

이 논문은 데이터 ���이언티스트 교육에 대해서 다루고 있지만, 다른 분야에도 대부분 적용 될 이야기로, 교수자 뿐 아니라 AI(LLM)로 인해 세상이 어떻게 바뀔지 궁금한 사람이라면 한 번쯤 읽어볼만한 논문.

[GONOGO @GONOGO_Korea]

자넷 옐런 샌프란시스코 연은 총재, 소프트랜딩 전망.

* 2007년 8월 10일, 로이터 통신

[xuan (ɕɥɛn / sh-yen) @xuanalogue]

Deep neural networks are just Gaussian Processes with a squared exponential kernel confirmed 😎

[부아C @richdad_c]

내 마음이 시키는대로

[Jeff Dean @JeffDean]

We're starting to roll out API support for Gemini 1.5 Pro for developers. We're excited to see what you build with the 1M token context window!

We'll be onboarding people to the API slowly at first, and then we'll ramp it up. In the meantime, developers can try out Gemini 1.5 Pro in the AI Studio UI right now:

https://t.co/HG3inVgrc7

[Jason Wu @jasonwuishere]

Tomorrow’s computers will be powered by adaptive user interfaces (AUIs) that adapt to context, user ability, and device capabilities. But their dynamic nature and numerous variations make them challenging and often impractical to develop. To address this, we introduce FrameKit.