Édesapja, idősebb Rubik Ernő gépészmérnök, repülőgép-tervező volt az esztergomi repülőgépgyárban, édesanyja Szántó Magdolna pedig költő volt. A Képző- és Iparművészeti Szakközépiskola jó indulás volt a szülők mérnöki és művészi vénájának folytatására.
1971 és 1979 között az akadémia tervező professzoraként geometriás modellek készítésével foglalkozott. Az egyik a kocka prototípusa volt, amely 27 fatömbből készült. Ekkor határozta el, hogy olyan szerkezetet hoz létre, amely lehetővé teszi az egyes darabok mozgatását anélkül, hogy az egész szerkezet szétesne. Eredetileg fát használt a kocka alapanyagaként és kézzel készítette a kocka eredeti prototípusait, vágva a fát, fúrva a lyukakat, amit gumiszalagok tartottak egyben.
Szabadalmat kért a találmányára, majd gyártót keresett Magyarországon, azonban a szocialista tervgazdálkodás alkalmatlan volt a gyors és hatékony innovációra. Végül Rubiknak sikerült találnia egy kis céget, ahol elindult a gyártás és „Bűvöskocka” néven került forgalmazásra, mivel hasznos eszköznek bizonyult az algebrai csoportelmélet oktatásában.
A szabadalmi leírásban Rubik Ernő térbeli logikai játékként nevezte meg a mechanikus, egyéni logikai játékot, amelynek célja, hogy egy előzetesen összekevert kockából forgatással visszaállítsuk az eredeti, rendezett színösszeállítást, vagyis minden oldalon azonos színű lapocskák legyenek.
„ A találmány lényege abban van, hogy a nagy kockát alkotó 27 elem, szétszedés, tehát a nagy kocka megbontása nélkül hozhatók új helyzetbe, aminek eléréséhez, egyetlen homológ művelet: a nagy kocka bármelyik lapját alkotó kilenc kis kockának elforgatása szükséges”.
Rubik 1979-ben engedélyezte a Magic Cube ( a Mágikus Kocka) gyártását és forgalmazását az Ideal Toys amerikai társaság számára. A Rubik-kocka azonnali siker lett világszerte, többször is elnyerte az Év Játéka díjat, és az 1980-as években a Rubik-kocka az egész világon forgalomba került. A mai napig több mint 350 millió Rubik-kocka került értékesítésre, így ez minden idők egyik legkelendőbb játéka.
A bűvös kocka csak egy, a térbeli mozgások szemléltetésére alkalmas eszköznek készült, később mint szórakoztató logikai játék hódította meg a világot. Rubik Ernő találta fel a bűvös dominót, a sudokube-t és a Rubik-órát is, valamint 2009-ben jelent meg a Rubik’s 360 néven kiadott Rubik-gömb.
2014. április 24-én New Yorkban a Rubik-kocka 40 éves születésnapja alkalmából kiállítás nyílt a New Jersey-i Liberty Science Centerben Beyond Rubik's Cube (Túl a Rubik-kockán) címmel.
Már megjelenése óta izgatta az embereket, vajon hány forgatásból lehet kirakni a Rubik-kockát bármilyen összekevert állásból. Azt az algoritmust, ami egy adott állásból a lehető legkevesebb forgatással kirakja a kockát, Isten algoritmusának nevezték el, az a forgatásszám pedig, ahány forgatásra az Isten algoritmusának legfeljebb szüksége van Isten száma. 2010-ben bebizonyították, hogy 20-nál több forgatásra nincs szükség, vagyis Isten száma 20.
A kocka variációs lehetőségeinek száma (8! × 38−1) × (12! × 212−1) / 2 = 43 252 003 274 489 856 000 vagy másképp: 4,3×1019 (azaz kimondva: negyvenháromtrillió-kétszázötvenkétbilliárd-hárombillió-kétszázhetvennégymiliárd-négyszáznyolcvankilencmillió-nyolcszázötvenhatezer).
Ha az ember minden másodpercben fordít egyet a kockán, és ezt a nap 24 órájában csinálja, akkor 1 371 512 026 715 évre van szüksége az összes lehetséges állás kipróbálásához. Ez annyira hosszú idő, hogy addigra nemhogy a Föld, de egyes tudósok szerint már a Világegyetem sem fog létezni.
A Rubik-gömb (angolul: Rubik's 360) 2009-ben megjelent három-dimenziós mechanikus logikai játék.
Abban különbözik Rubik Ernő korábbi játékaitól, hogy nem a logikai algoritmusokra, hanem a kézügyességre helyezi a hangsúlyt. A játék három üreges gömbből áll. A játékos célja, hogy hat különböző színű golyó mindegyikét eljuttassa a legbelső gömbből a legkülső gömbön található egyező színű rekeszbe.