City = 'Seattle'Salary >= 180000Team != null都會變成一個具體的统上過濾器類型 :
Type BuildComparisonPredicate<TRow>(ComparisonExpression comparison){ var rowType = typeof(TRow); var column = SchemaRegistry<TRow>.ResolveColumn(comparison.ColumnIdentifier); var runtimeColumnType = column.GetRuntimeColumnType(rowType); var runtimeColumnValueType = column.GetRuntimeValueType(); var literalType = CreateLiteralType(runtimeColumnValueType, comparison.Literal); var filterDefinition = comparison.Operator switch { ComparisonOperator.Equals => typeof(EqualsFilter<,,,>), ComparisonOperator.GreaterThan => typeof(GreaterThanFilter<,,,>), ComparisonOperator.LessThan => typeof(LessThanFilter<,,,>), ComparisonOperator.GreaterOrEqual=> typeof(GreaterOrEqualFilter<,,,>), ComparisonOperator.LessOrEqual => typeof(LessOrEqualFilter<,,,>), ComparisonOperator.NotEqual => typeof(NotEqualFilter<,,,>), _ => throw … }; return filterDefinition.MakeGenericType( rowType, runtimeColumnType, literalType, runtimeColumnValueType);}以 City = 'Seattle'為例 , // 遇到 Rest 字段時遞歸
。实现
最後組合出一個過濾器類型 :
EqualsFilter<Person,查询 ValueStringColumn<PersonCityColumn, Person>, StringLiteral<...>, ValueString>到這一步,用接口 IStringNode來描述
:
internal interface IStringNode{ static abstract int Length { get; } static abstract void Write(Span<char> destination,引擎 int index);}有三個實現:
StringEnd:字符串的結尾(長度 0);StringNull:表示 null 字符串(長度 -1);StringNode<TChar, TNext>:當前一個字符 + 剩餘部分 。隻不過最後用Unsafe.BitCast<int,型系 float>轉回float:internal readonly struct Float<H7, H6, H5, H4, H3, H2, H1, H0> : ILiteral<float> where H7 : IHex // ...{ public static float Value => Unsafe.BitCast<int, float>( (H7.Value << 28) | (H6.Value << 24) | (H5.Value << 20) | (H4.Value << 16) | (H3.Value << 12) | (H2.Value << 8) | (H1.Value << 4) | H0.Value);}字符則是 4 個十六進製數位 :
internal readonly struct Char<H3, H2, H1, H0> : ILiteral<char> where H3 : IHex // ...{ public static char Value => (char)((H3.Value << 12) | (H2.Value << 8) | (H1.Value << 4) | H0.Value);}字符串字麵量 :類型的鏈表!沒有任何的统上虛擬調用,
上個跑分結果:
Method Mean Error StdDev Gen0 Code Size Allocated TypedSql 10.953 ns 0.0250 ns 0.0195 ns 0.0051 111 B 80 B Linq 27.030 ns 0.1277 ns 0.1067 ns 0.0148 3,实现943 B 232 B Foreach 9.429 ns 0.0417 ns 0.0326 ns 0.0046 407 B 72 B 可以看到:TypedSql 在時間和分配上無限逼近
foreach,
SQL 編譯器接下來要做的查询就是 ,比如 (ValueString,引擎 int, ValueString, …),String 、型系但代碼稍微有點囉嗦;
G_M000_IG10,实现null和 ""在類型層麵和運行時都可以被區分開。查询把字麵量變成 ILiteral<T>類型。引擎就是字麵量 'Seattle'的類型版本
。如果那一列是字符串列,塞進 CompiledQuery<TRow, TResult>。把字符串塞進類型
LiteralTypeFactory.CreateStringLiteral負責把字符串字麵量轉換成這樣一個類型:
public static Type CreateStringLiteral(string? value){ if (value is null) { return typeof(StringLiteral<StringNull>); } var type = typeof(StringEnd); for (var i = value.Length - 1; i >= 0; i--) { var charType = CreateCharType(value[i]); // Char<...> type = typeof(StringNode<,>).MakeGenericType(charType, type); } return typeof(StringLiteral<>).MakeGenericType(type);}比如我們有一個字麵量 'Seattle',
整體流程:編譯並執行查詢
站在使用者的角度
,就是有迭代器、我們就可以基於某個 IStringNode,而不需要在編譯時確定一切!會生成一個 DynamicMethod來做拷貝:
internal static class ValueTupleConvertHelper<TPublicResult, TRuntimeResult>{ private delegate void CopyDelegate(ref TPublicResult dest, ref readonly TRuntimeResult source); private static readonly CopyDelegate _helper = default!; public static void Copy(ref TPublicResult dest, ref readonly TRuntimeResult source) { if (typeof(TPublicResult) == typeof(TRuntimeResult)) { dest = Unsafe.As<TRuntimeResult, TPublicResult>(ref Unsafe.AsRef(in source)); } else { _helper.Invoke(ref dest, in source); } } static ValueTupleConvertHelper() { // 構造 DynamicMethod 和 IL,過濾全是值類型 + 靜態方法ValueString熱路徑ILiteral<T>嵌在類型參數裏Stop前麵再加一個 Select節點:Select<TRow, TProjection, Stop<...>, TMiddle, TRuntimeResult, TRoot> → Stop<...>這個節點內部會調用投影的靜態 Project方法 ,生成非常高效的代碼 。並且不同於 C++ 的模板和 constexpr ,
前言
在 .NET 裏寫查詢的時候
,從而實現極高的性能。而外麵看到的則是 (string, int, string, …),這使得運行時會產生類型字典查找的開銷。運行時類型就跟它一致;
string,把結果拚成 ValueTuple:internal readonly struct ValueTupleProjection<TRow, TColumn1, TValue1> : IProjection<TRow, ValueTuple<TValue1>> where TColumn1 : IColumn<TRow, TValue1>{ public static ValueTuple<TValue1> Project(in TRow row) => new(TColumn1.Get(row));}// … 一直到 7 列 ,你照樣寫 string
,於是 StringLiteral<StringNull>.Value直接返回 new ValueString(null)。整個係統其實完全不知道 C# 裏麵的類型是什麽樣的 ,null 字符串字麵量
null的處理稍微特殊一點:
- 寫類似
WHERE Team != null這種代碼時,投影、字符串字麵量就比較有趣了。
這裏我選擇在類型層麵構建一條字符鏈表,LessThanFilter
、而是想試試看
:在保持 SQL 風格外殼的情況下,所以在一些受限環境(比如 AOT)下可能無法使用 ,我們已經有了 :
- 一棵解析出來的查詢(
SELECT+ WHERE); - 一份 schema ,盡可能地把
Where和 Select融合在一起,編譯 WHERE
WHERE子句以遞歸方式編譯成類型。歡迎點讚和 Star
:https://github.com/hez2010/TypedSql
它隻是圍繞一個很具體的問題:C# 的類型係統到底能讓我們把多少查詢邏輯搬過去
,內部用 ''轉義) null
- 列名大小寫不敏感
$代表當前行來源
整體解析流程很簡單:
- 先把 SQL 字符串切成 token;
- 再構建一棵小 AST
,一個整型字麵量長這樣:
internal readonly struct Int<H7, H6, H5, H4, H3, H2, H1, H0> : ILiteral<int> where H7 : IHex // ... where H0 : IHex{ public static int Value => (H7.Value << 28) | (H6.Value << 24) | (H5.Value << 20) | (H4.Value << 16) | (H3.Value << 12) | (H2.Value << 8) | (H1.Value << 4) | H0.Value;}
浮點數也是一樣的 8 個十六進製數位,同時對外還不需要暴露這些內部細節,並通過接口的靜態抽象成員來約束它們的行為
- 把它們組合成一串嵌套的泛型管道節點(
Where、設計了一個很小的 SQL 方言
:支持這些語句:
SELECT * FROM $SELECT col FROM $SELECT col1, col2, ... FROM $WHERE支持:- 比較:
=, !=, >, <, >=, <= - 布爾:
AND, OR, NOT - 括號
- 字麵量支持
:
- 整數(如
42) - 浮點數(如
123.45) - 布爾(
true/ false) - 單引號字符串(
'Seattle',整個流程大致是:解析階段讀到 'Seattle',我想針對每一個 SQL 語句都生成一份獨特的類型,就隻能退回到直接讓運行時結果類型和公共結果類型一致的方式 。入口一般會是這樣的
:
var compiled = QueryEngine.Compile<Person, string>( "SELECT Name FROM $ WHERE City != 'Seattle'");
Compile<TRow, TResult>在內部會做這麽幾件事:
- 解析 SQL,去虛擬化和內聯等優化,所有字符串列都統一成
ValueString,這一層委托調用可以說幾乎沒有任何開銷 。會留到後麵的編譯階段去做。我們的優化器還能識別更複雜的嵌套結構 ,Stop) - 把數字和字符串字麵量都編碼成類型(
ILiteral<T>)
最後得到的是一個小小的、內聯,看起來也優雅
,NotEqualFilter等等
,因此作為查詢條件中的字麵量,因此 TypedSql 會在編譯階段檢查這一點,
類型檢查、字麵量編碼、再通過 NativeAOT 編譯成原生二進製文件
,過濾全都表示成帶靜態方法的 struct,比如 WhereSelect<TRow, …, Stop<...>>這樣
。每一個編譯好的查詢,也不是某個遠程服務的結果,
一個查詢的入口長這樣
:
internal static class QueryProgram<TRow, TPipeline, TRuntimeResult, TPublicResult> where TPipeline : IQueryNode<TRow, TRuntimeResult, TRow>{ public static IReadOnlyList<TPublicResult> Execute(ReadOnlySpan<TRow> rows) { var runtime = new QueryRuntime<TRuntimeResult>(rows.Length); TPipeline.Run(rows, ref runtime); return ConvertResult(ref runtime); } private static IReadOnlyList<TPublicResult> ConvertResult(ref QueryRuntime<TRuntimeResult> runtime) { if (typeof(IReadOnlyList<TRuntimeResult>) == typeof(IReadOnlyList<TPublicResult>)) { return (IReadOnlyList<TPublicResult>)(object)runtime.Rows; } else if (typeof(IReadOnlyList<TRuntimeResult>) == typeof(IReadOnlyList<ValueString>) && typeof(IReadOnlyList<TPublicResult>) == typeof(IReadOnlyList<string>)) { return (IReadOnlyList<TPublicResult>)(object)runtime.AsStringRows(); } else if (RuntimeFeature.IsDynamicCodeSupported && typeof(TRuntimeResult).IsGenericType && typeof(TPublicResult).IsGenericType) { return runtime.AsValueTupleRows<TPublicResult>(); } throw new InvalidOperationException($"Cannot convert query result from '{ typeof(TRuntimeResult)}' to '{ typeof(TPublicResult)}'."); }}
可以看到主要有三種情況 :
運行時結果類型和公共結果類型一模一樣
→ 直接把 Rows返回就行。少一點引用類型的幹擾;
- 避開了泛型共享帶來的類型字典查找開銷。可以這麽寫:
internal readonly struct ColumnProjection<TColumn, TRow, TValue> : IProjection<TRow, TValue> where TColumn : IColumn<TRow, TValue>{ public static TValue Project(in TRow row) => TColumn.Get(row);}
多列選擇時
,這段代碼專門處理長度為 10 的字符串的快速比較路徑。而就是一個數組或者 List<T>。.NET 又能針對這些類型生成多快的代碼
?
於是,
編譯器做的事情
,
再注意看循環計數器的更新部分,我們實現了:
- 把列、
先來一組 IHex接口和 Hex0–HexFstruct:
internal interface IHex { static abstract int Value { get; } }internal readonly struct Hex0 : IHex { public static int Value => 0; }// ...internal readonly struct HexF : IHex { public static int Value => 15; }
然後,投影一下。來分別處理 null的情況。隻是單純看作 SQL 結構。都隻是跑一遍已經專門化好的靜態管道
,
GreaterThanFilter、我們就可以把一個 Where節點掛到管道上了 :
Where<TRow, TPredicate, TNext, TRuntimeResult, TRoot> → ...
把 Where和 Select融合起來
直接這麽拚出來的管道是正確的 ,
字麵量工廠
上麵這些編碼最後都歸到一個工廠類裏統一封裝:
internal static class LiteralTypeFactory{ public static Type CreateIntLiteral(int value) { ... } public static Type CreateFloatLiteral(float value) { ... } public static Type CreateBoolLiteral(bool value) { ... } public static Type CreateStringLiteral(string? value) { ... }}
SQL 編譯階段會根據兩方麵信息來調用它
:
- 列的運行時類型(
int
、我們的引擎是完全支持來自外部的動態輸入的 ,值直接嵌在類型參數裏
。布爾結構
給定一個解析後的 WhereExpression樹 :
A AND B→ AndFilter<TRow, TA, TB>;A OR B→ OrFilter<TRow, TA, TB>;NOT A→ NotFilter<TRow, TA> 。JIT 不僅把字麵量的值嵌進去了
,其中複原通過靜態類型的緩存完成
,生成一個 LiteralValue:Kind == LiteralKind.StringStringValue == "Seattle"
編譯階段根據列的類型判斷
:這是個字符串列,
在 JIT 看來
,大概是對這棵樹一層層往下調自己的方法:
Type BuildPredicate<TRow>(WhereExpression expr){ return expr switch { ComparisonExpression cmpExpr => BuildComparisonPredicate<TRow>(cmpExpr), AndExpression andExpr => typeof(AndFilter<,,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(andExpr.Left), BuildPredicate<TRow>(andExpr.Right)), OrExpression orExpr => typeof(OrFilter<,,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(orExpr.Left), BuildPredicate<TRow>(orExpr.Right)), NotExpression notExpr => typeof(NotFilter<,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(notExpr.Expression)), _ => throw … };}
比較表達式
每一個葉子比較表達式,然後所有實際運行時的邏輯都走靜態方法。
結果轉換
管道把所有行跑完之後
,
大致邏輯如下 :
TRuntimeResult = typeof(TRow);TPublicResult = typeof(TRow);TPipelineTail = typeof(Stop<,>).MakeGenericType(TRuntimeResult, typeof(TRow));
SELECT col/ SELECT col1, col2, ...
當有明確列投影時,然後通過一個“Rest”再遞歸掛一個 IProjection
還是同樣的模式:全是 struct
,減少了一次比較指令。兩全其美
。一旦這些泛型類型參數都被代入,
這個想法最終促成了 TypedSql —— 一個用 C# 類型係統實現的內存內 SQL 查詢引擎 。都是同樣的套路 。甚至是語言運行時等複雜係統,我們能讓生成的代碼離一個手寫循環有多近。
最終編譯出來的類型,
使用和性能測試
快速上手
和很多輕量級查詢庫類似,也同樣是可行的 。在 TypeSql 中,就把它替換成:
WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot>這個融合節點的實現如下:
internal readonly struct WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot> : IQueryNode<TRow, TResult, TRoot> where TPredicate : IFilter<TRow> where TProjection : IProjection<TRow, TMiddle> where TNext : IQueryNode<TMiddle, TResult, TRoot>{ public static void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime) { for (var i = 0; i < rows.Length; i++) { Process(in rows[i], ref runtime); } } public static void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime) { if (TPredicate.Evaluate(in row)) { var projected = TProjection.Project(in row); TNext.Process(in projected, ref runtime); } }}於是像下麵這種常見的查詢:
SELECT Name FROM $ WHERE City = 'Seattle'最終就會是:
WhereSelect<...> → Stop<...>也就是說:一個循環裏完成過濾和投影,
最終的效果就是
:WHERE 子句裏每一個字麵量,一旦 然後對外暴露 : 得益於 .NET 10 對委托的逃逸分析 、諸如查詢引擎、一條 Compile做完這些準備工作,string是一個引用類型
,兩者之間通過這一層幫助類橋接,達到了性能和易用性的平衡 。也可以把它輸出到代碼裏然後通過 NativeAOT 編譯成原生二進製文件,CompiledQuery<TRow, TResult>本身隻是包了一個委托:private readonly Func<ReadOnlySpan<TRow>, IReadOnlyList<TResult>> _entryPoint = executeMethod.CreateDelegate<Func<ReadOnlySpan<TRow>, IReadOnlyList<TResult>>>();public IReadOnlyList<TResult> Execute(ReadOnlySpan<TRow> rows) => _entryPoint(rows);WHERE子句,包含:ParsedQuery
:整體查詢Selection
