With a college, I made a compilation of all anti-AI-safety arguments we've seen. Feel free to comment, I'll add any novel arguments when I'll have time. https://t.co/rZSezIrMla
@perxta@AthlonII270@ImperioEstoico В России есть, но у нас над каждой такой полосой висит светофор каждые 100 метров, который горит красным крестиком тем, кто едет против потока и зелёной стрелкой тем, кто едет правильно. Плюс разметка особая - двойная прерывистая полоса.
@bear___bull@R70549941 Ну это как спрашивать "бампер - это машина?". Один только бампер - это не вся машина. Но если мне поцарапали бампер, то мне поцарапали машину. Ваш пример это машинное обучение. Оно является частью области искуственный интеллект. Область искуственный интеллект шире, чем только МО.
@bear___bull@R70549941 Да, трудно описать её рамки.
- Наш классификатор иногда находит кошек на изображениях.
- Всех кошек?
- нет.
- Каких-то определённых кошек?
- нет.
- Вы можете доказать, что он работает хотя бы в 50% случаев?
- Формально нет, потому что мы не знаем распределение изображений кошек.
@bear___bull@R70549941 Разница в том, известно ли, какую именно задачу решает программа. "Программа решает конкретно задачу XYZ" - значит это алгоритм решения задачи XYZ. "Программа решает какую-то задачу, не могу сформулировать, в точности, какую именно, но результат нам полезен" - это эвристика.
A big problem of philosophy is that the truth gets very little amplification in it. In physics to prove something you can present a result of experiment. In math you can give a formal proof. But in philosophy debates are endless.
@bear___bull@R70549941 Ну так и? "Для решения определённой задачи". Если вы сами не знаете, на каких входах программа работает, то вы решили неопределённую задачу, а не определённую. И получили эвристику. А если знаете, то вы получили алгоритм, но для решения более узкой задачи, а не исходной.
@bear___bull@R70549941 Ну так для "решения некоторого класса задач". Если есть валидный вход из этого класса, на котором программа даёт неверный ответ, то класс задач не решён. Эдак я могу сказать, что у меня есть алгоритм сортировки за O(1), просто работает не на всех данных. Нет. Это эвристика тогда.
@bear___bull@R70549941 Именно так. Программа корректно работает не на всех допустимых входных данных. С точки зрения информатики это не алгоритм приготовления пирога, а эвристика, иногда дающая пироги, а иногда не дающая. А разделение между эвристикой и интеллектуальной системой весьма условно.
@gaxeliy Оно всё даёт надёжность работы в тех случаях, которые ты мог хотя бы косвенно предвидеть. В реальности почти всегда находятся новые баги. Так что всё равно нужны тестировщики, бета тестеры, баг баунти итд. Миллионная аудитория даёт большую надёжность.
@bear___bull@R70549941 Чтобы показать, почему так принято называть ИИ. Так принято называть ИИ, потому что многих людей в школах учили именно таким определениям. Что алгоритм не может давать ошибок. А если система может ошибаться, то она называется не алгоритмом, а интеллектуальной системой.
@sphere_homotopy Формулы удобнее всего набирать в wolfram mathematica - особенно когда осознал их просто божественную логику горячих клавиш. Почему ещё никто не сделал настолько же удобный интерфейс, но бесплатно - вот вообще не понимаю. А латех - ну, на безрыбье и рак рыба.