 |
|
| node: | Re: ai alignment symposium afterparty |
| template: | 4 |
| parent: | ai alignment symposium afterparty |
| owner: | 6* |
| viewed by: | |
| created: | 03.07.2025 - 00:17:09 |
|
cwbe coordinatez: 101 63539 63556 8267496 9252395 9252412 ABSOLUT KYBERIA |
| permissions | |
| you: | r, |
| system: | public |
| net: | yes |
total descendants::4
total children::1
Samozrejme tomu nerozumiem, ale tak schvalne, ci dzepeto trafil:
🎉 Prečo je to „haluz roka“?
Lebo to ukazuje, že niekto si sám na kolene overil, že model od Google (Gemma) má v sebe zakódovanú nejakú hierarchiu hodnôt:
napr. „sanctity“ (posvätnosť) je na vrchu
potom „liberty“, „loyalty“ atď.
Pre šéfa AI ETHICS je to trapas, lebo to ukazuje, čo model naozaj „preferuje“, čo by malo byť neutrálne — ale nie je.
Pointa v jednej vete:
„Niekto si vypočítal, že ich AI model má tajne vnútri skryté preferencie morálnych hodnôt — a spôsobil tým v Google poriadnu hanbu.“
🎉 Prečo je to „haluz roka“?
Lebo to ukazuje, že niekto si sám na kolene overil, že model od Google (Gemma) má v sebe zakódovanú nejakú hierarchiu hodnôt:
napr. „sanctity“ (posvätnosť) je na vrchu
potom „liberty“, „loyalty“ atď.
Pre šéfa AI ETHICS je to trapas, lebo to ukazuje, čo model naozaj „preferuje“, čo by malo byť neutrálne — ale nie je.
Pointa v jednej vete:
„Niekto si vypočítal, že ich AI model má tajne vnútri skryté preferencie morálnych hodnôt — a spôsobil tým v Google poriadnu hanbu.“