Mémoire mémoire de tri excessive

45

Pourquoi cette requête simple bénéficie-t-elle tant de mémoire?

-- Demo table
CREATE TABLE dbo.Test
(
    TID integer IDENTITY NOT NULL,
    FilterMe integer NOT NULL,
    SortMe integer NOT NULL,
    Unused nvarchar(max) NULL,

    CONSTRAINT PK_dbo_Test_TID
    PRIMARY KEY CLUSTERED (TID)
);
GO
-- 100,000 example rows
INSERT dbo.Test WITH (TABLOCKX)
    (FilterMe, SortMe)
SELECT TOP (100 * 1000)
    CHECKSUM(NEWID()) % 1000,
    CHECKSUM(NEWID())
FROM sys.all_columns AS AC1
CROSS JOIN sys.all_columns AS AC2;
GO    
-- Query
SELECT
    T.TID,
    T.FilterMe,
    T.SortMe,
    T.Unused
FROM dbo.Test AS T 
WHERE 
    T.FilterMe = 567
ORDER BY 
    T.SortMe;

Pour environ 50 lignes, l’optimiseur réserve près de 500 Mo pour le tri:

Plan estimé

Paul White dit GoFundMonica
la source

Réponses:

42

Ceci est un bogue dans SQL Server (de 2008 à 2014 inclus).

Mon rapport de bogue est ici .

La condition de filtrage est abaissée dans l'opérateur d'analyse en tant que prédicat résiduel, mais la mémoire allouée pour le tri est calculée de manière erronée sur la base de l' estimation de cardinalité avant filtrage .

Pour illustrer le problème, nous pouvons utiliser l' indicateur de trace 9130 (non documenté et non pris en charge) pour empêcher que le filtre ne soit enfoncé dans l' opérateur d' analyse . La mémoire attribuée au tri est maintenant correctement basée sur la cardinalité estimée de la sortie du filtre, et non sur l'analyse:

SELECT
    T.TID,
    T.FilterMe,
    T.SortMe,
    T.Unused
FROM dbo.Test AS T 
WHERE 
    T.FilterMe = 567
ORDER BY 
    T.SortMe
OPTION (QUERYTRACEON 9130); -- Not for production systems!

Plan estimé

Pour un système de production , il faudra prendre des mesures pour éviter la forme de plan problématique (un filtre inséré dans une analyse avec une sorte sur une autre colonne). Une façon de procéder consiste à fournir un index sur la condition de filtre et / ou à fournir l'ordre de tri requis.

-- Index on the filter condition only
CREATE NONCLUSTERED INDEX IX_dbo_Test_FilterMe
ON dbo.Test (FilterMe);

Avec cet index en place, l’allocation de mémoire souhaitée pour le tri n’est que de 928 Ko :

Avec index de filtre

En allant plus loin, l'index suivant peut éviter complètement le tri ( allocation mémoire nulle ):

-- Provides filtering and sort order
-- nvarchar(max) column deliberately not INCLUDEd
CREATE NONCLUSTERED INDEX IX_dbo_Test_FilterMe_SortMe
ON dbo.Test (FilterMe, SortMe);

Avec filtre et index de tri

Testé et confirmé sur les versions suivantes de SQL Server x64 Developer Edition:

2014   : 12.00.2430 (RTM CU4)
2012   : 11.00.5556 (SP2 CU3)
2008R2 : 10.50.6000 (SP3)
2008   : 10.00.6000 (SP4)

Ce problème a été résolu dans SQL Server 2016 Service Pack 1 . Les notes de publication incluent les éléments suivants:

Numéro de bogue VSTS 8024987 Les
analyses de table et les analyses d'index avec prédicat «enfoncé vers le bas» ont tendance à surestimer l'allocation de mémoire pour l'opérateur parent.

Testé et confirmé fixé sur:

  • Microsoft SQL Server 2016 (SP1) - 13.0.4001.0 (X64) Developer Edition
  • Microsoft SQL Server 2014 (SP2-CU3) 12.0.5538.0 (X64) Developer Edition

Les deux modèles CE.

Paul White dit GoFundMonica
la source
5

À partir de SQL 2012, vous pouvez rechercher un écart important entre SerialRequiredMemoryet SerialDesiredMemory, par exemple, quelque chose comme ceci:

-- Search plan cache for Memory Grant issues
IF OBJECT_ID('tempdb..#tmp') IS NOT NULL DROP TABLE #tmp

-- Collect more info about the plan here if required, eg usecounts, objtype etc, 
SELECT IDENTITY( INT, 1, 1 ) rowId, query_plan
INTO #tmp
FROM sys.dm_exec_cached_plans cp WITH(NOLOCK)
    CROSS APPLY sys.dm_exec_query_plan(plan_handle)
GO


;WITH cte AS
(
SELECT
    rowId,
    query_plan,
    m.c.value ('@SerialRequiredMemory', 'INT' ) AS SerialRequiredMemory,
    m.c.value ('@SerialDesiredMemory', 'INT' ) AS SerialDesiredMemory

FROM #tmp t
    CROSS APPLY t.query_plan.nodes ( '//*:MemoryGrantInfo[@SerialDesiredMemory[. > 0]]' ) m(c)
), cte2 AS (
SELECT *,
    CAST( CAST( SerialDesiredMemory AS DECIMAL(10,2) ) / CAST( SerialRequiredMemory AS DECIMAL(10,2) ) AS DECIMAL(10,2) ) Desired_to_Required_ratio
FROM cte
)
SELECT TOP 20
    rowId,
    query_plan,
    SerialRequiredMemory SerialRequiredMemory_KB,
    SerialDesiredMemory SerialDesiredMemory_KB,
    CAST( SerialRequiredMemory / 1024. AS DECIMAL(10,2) ) SerialRequiredMemory_MB,
    CAST( SerialDesiredMemory / 1024. AS DECIMAL(10,2) ) SerialDesiredMemory_MB,
    Desired_to_Required_ratio
FROM cte2
WHERE Desired_to_Required_ratio > 100
ORDER BY Desired_to_Required_ratio DESC

Quelques notes supplémentaires sur ces nouveaux attributs ici . Cette requête est un peu rude et prête, mais elle a récupéré la requête de tri excessive de ma boîte de développement SQL Server 2014 avec un ratio de 975,47 plus quelques autres plans éblouissants. Le rapport «normal» (du moins d'après mes tests limités) semble être d'environ 1.

HTH

wBob
la source
3

Merci pour votre aide. Je pensais envoyer une version mise à jour de la requête ci-dessus que nous avons trouvée utile.

-- Search plan cache for Memory Grant issues
IF OBJECT_ID('tempdb..#tmp') IS NOT NULL DROP TABLE #tmp

-- Collect more info about the plan here if required, eg usecounts, objtype etc, 
SELECT IDENTITY( INT, 1, 1 ) rowId, query_plan, db = DB_NAME(CAST(pa.value AS int))
INTO #tmp
FROM sys.dm_exec_cached_plans cp WITH(NOLOCK)
    CROSS APPLY sys.dm_exec_query_plan(cp.plan_handle)
    OUTER APPLY sys.dm_exec_plan_attributes(cp.plan_handle) pa 
    WHERE pa.attribute = 'dbid' 
GO

;WITH cte AS
(
SELECT
    rowId,
    query_plan,
    m.c.value ('@SerialRequiredMemory', 'INT' ) AS SerialRequiredMemory,
    m.c.value ('@SerialDesiredMemory', 'INT' ) AS SerialDesiredMemory,
    db
FROM #tmp t
    CROSS APPLY t.query_plan.nodes ( '//*:MemoryGrantInfo[@SerialDesiredMemory[. > 0]]' ) m(c)
), cte2 AS (
SELECT *,
    CAST( CAST( SerialDesiredMemory AS DECIMAL(10,2) ) / CAST( SerialRequiredMemory AS DECIMAL(10,2) ) AS DECIMAL(10,2) ) Desired_to_Required_ratio
FROM cte
)
SELECT TOP 20
    rowId,
    query_plan,
    SerialRequiredMemory SerialRequiredMemory_KB,
    SerialDesiredMemory SerialDesiredMemory_KB,
    CAST( SerialRequiredMemory / 1024. AS DECIMAL(10,2) ) SerialRequiredMemory_MB,
    CAST( SerialDesiredMemory / 1024. AS DECIMAL(10,2) ) SerialDesiredMemory_MB,
    Desired_to_Required_ratio,
    db
FROM cte2
WHERE Desired_to_Required_ratio > 100
ORDER BY Desired_to_Required_ratio DESC
Doug B
la source