В XSL-шаблоне, в обработчике для групп,
<xsl:template match="group" mode="groups">
перед закрытием обработчика допишите:
<xsl:if test="position() mod 3 = 0">
<div style="clear: left;"></div>
</xsl:if>
(3 - число элементов в строку)
То есть обработчик для групп должен принять примерно такой вид:
<xsl:template match="group" mode="groups">
<div class="group_gallery">
<div class="t"></div>
<div class="r"></div>
<div class="b"></div>
<div class="l"></div>
<xsl:if test="small_image!=''">
<a href="{/document/blocks/url}{fullpath}"><img src="{small_image}"/><br/></a> 
</xsl:if>
<a href="{/document/blocks/url}{fullpath}"><b><xsl:value-of disable-output-scaping="yes" select="name"/></b></a> 
<span style="color: #b7af9c">(<xsl:value-of select="count_all_items"/>)</span>
</div>
<xsl:if test="position() mod 3 = 0">
<div style="clear: left;"></div>
</xsl:if>
</xsl:template>