En el panel derecho haz clic con el ratón derecho y luego selecciona Nuevo y Valor DWORD, dale el nombre TaskbarGroupSize, después haces doble clic sobre él y tecleas el número correspondiente a la cantidad de archivos de una misma aplicación que debes tener abiertos para que se agrupen en la barra de tareas y luego pulsa el botón Aceptar.
Finalmente cierra el registro y reinicia el PC para comprobar que los cambios son correctos.