Rummikub se juega con reglas similares a las de Rummy, excepto que usa fichas en lugar de cartas. Los jugadores intentan crear carreras, que consisten en tres o más fichas numeradas consecutivas del mismo color, o grupos, que son tres o más del mismo número en diferentes colores.
Un juego de Rummikub comienza con cada jugador dibujando 14 fichas y luego intentando crear carreras o grupos. Los puntos están determinados por los números en las fichas, y un jugador debe hacer una "fusión" inicial que valga 50 o más puntos para comenzar a colocar fichas. Por ejemplo, un conjunto de cuatro, cinco y seis azules vale 15 puntos, mientras que un conjunto de seis naranja, azul y negro vale 18 puntos. Un jugador necesitaría otros 13 puntos para hacer una fusión inicial.
Una vez que un jugador haya colocado su fusión de 50 puntos en la mesa, puede comenzar a manipular y reorganizar las mezclas. Las fusiones deben contener al menos tres fichas, pero se pueden dividir para crear nuevas fusiones. Si un jugador no puede agregar a una combinación (ya sea suya o la de sus oponentes), debe recoger una ficha y terminar su turno.
El objetivo del juego es terminar sin fichas para jugar.