Large Language Models as Optimizers
paper page: https://t.co/bo2mMNF88I
Optimization is ubiquitous. While derivative-based algorithms have been powerful tools for various problems, the absence of gradient imposes challenges on many real-world applications. In this work, we propose Optimization by PROmpting (OPRO), a simple and effective approach to leverage large language models (LLMs) as optimizers, where the optimization task is described in natural language. In each optimization step, the LLM generates new solutions from the prompt that contains previously generated solutions with their values, then the new solutions are evaluated and added to the prompt for the next optimization step. We first showcase OPRO on linear regression and traveling salesman problems, then move on to prompt optimization where the goal is to find instructions that maximize the task accuracy. With a variety of LLMs, we demonstrate that the best prompts optimized by OPRO outperform human-designed prompts by up to 8% on GSM8K, and by up to 50% on Big-Bench Hard tasks.
4. There’s a temptation to lie upwards and say that by doing what the CEO suggested, it actually helped! Even if did not. Do this and you’ll ask for far more trouble.
5. But make the CEO look silly, and you risk your perf review/promotion. At Twitter, probably your job (no joke)
The problem with these things is several:
1. When the CEO points out a problem, it can’t be ignored
2. With a solution suggested, ppl working on this have to be tactful in how to communicate that it’s not really the solution w/o pissing off the CEO
3. It can drain so much time
내가 듣고 싶은 것만 보여줘야 플랫폼에 오래 머무르고 광고로 수익을 창출할 수 있으니. 플랫폼은 한쪽으로 편향될 필요 없이 알고리즘으로 개개인의 필터 버블을 만들어 가둬두고 계속 확증 편향을 강화하는 인간을 만들어냄. #uxkr
https://t.co/bpp9YHS4d8
조직 내에 이런 사례 생기잖아? 그럼 일 잘하고 눈치 빠른 사람은 일찌감치 튀고 대충 하는 사람은 일을 안 하면서 도망가서, 소처럼 일하는 사람한테 일이 가중되는 와중에, 목소리 크고 잘 떠넘기는 사람은 승승장구함. 흔히 소는 누가 키우냐고 할 때 소랑 소키우는 사람 죽어서 삽시간에 고꾸라짐
조직에서 가장 높은 사람이 책임을 회피하면 이런 일이 일어난다. 가장 높은 사람 바로 밑에 있는 사람은 더 열심히 책임을 회피하고, 다시 그 밑이 회피한다. 결국 그 조직에서 사명감이 높은 사람 중 가장 높은 사람이 모든 책임을 떠안고 조직에서 제거된다. 이게 몇번 반복되면 조직이 붕괴한다.