AI alignment je ale velmi relevantna a podstatna vec. Ved cela openAI company bola zalozena prave preto aby sa venovali tomuto problemu, fakt je to existencionalny risk. Jedine co je trochu za ciarou je podla mna prehanat ake schopnosti ma gpt4, moze to byt sucast buducnosti v AI ale ma to hrozne daleko od general inteligence.

Aj zakladne machine learning modely dokazu robit ultra divne a neocakavane veci ked je mismatch s alignmentom. Nie je uplne tazke pochopit ze vysoka inteligencia sa nerovna moralnost, a moralnost moze byt to co si predstavujes ako alignment.

Tak isto ako je to AI pre nas tool / vec, mozme byt my tool/vec pre to AI.

Podla mna je super na tuto temu tento typek, odporucam aj jeho youtube channel:

https://www.youtube.com/watch?v=92qDfT8pENs