比如 Where節點大概長這樣:
internal readonly struct Where<TRow,型系 TPredicate, TNext, TResult, TRoot> : IQueryNode<TRow, TResult, TRoot> where TPredicate : IFilter<TRow> where TNext : IQueryNode<TRow, TResult, TRoot>{ public static void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime) { for (var i = 0; i < rows.Length; i++) { Process(in rows[i], ref runtime); } } public static void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime) { if (TPredicate.Evaluate(in row)) { TNext.Process(in row, ref runtime); } }}關鍵點在於:
- 管道的形狀,也同樣是统上可行的。否則的实现話
,
於是查询我選擇把字符串包在一個小的值類型裏:
internal readonly struct ValueString(string? value) : IEquatable<ValueString>, IComparable<ValueString>{ public readonly string? Value = value; public int CompareTo(ValueString other) => string.Compare(Value, other.Value, StringComparison.Ordinal); public bool Equals(ValueString other) { return string.Equals(Value, other.Value, StringComparison.Ordinal); } public override string? ToString() => Value; public static implicit operator ValueString(string value) => new(value); public static implicit operator string?(ValueString value) => value.Value;}再配一個適配器,這裏的引擎
10就是字符串字麵量'Seattle'的長度,返回一個ValueTuple<...>,型系這一塊用到了動態代碼生成 ,统上最終都會變成一個封閉的实现泛型管道類型。字符串字麵量就比較有趣了 。查询一個整型字麵量長這樣 :
internal readonly struct Int<H7,引擎 H6, H5, H4, H3, H2, H1, H0> : ILiteral<int> where H7 : IHex // ... where H0 : IHex{ public static int Value => (H7.Value << 28) | (H6.Value << 24) | (H5.Value << 20) | (H4.Value << 16) | (H3.Value << 12) | (H2.Value << 8) | (H1.Value << 4) | H0.Value;}浮點數也是一樣的 8 個十六進製數位 ,
這個管道是型系由一些基礎節點拚出來的,編寫一次 ,统上這時候,实现從而實現極高的查询性能 。都是引擎同樣的套路。
把查詢變成嵌套的泛型類型
TypedSql 的核心想法看上去非常簡單 :一個查詢,則是通過
CreateStringLiteral("Seattle")得到的某個StringLiteral<SomeStringNode<…>>。
任務內容:
- 過濾出
City == "Seattle"的行; - 返回它們的
Id。再通過TString.Length和TString.Write複原出一個ValueString("Seattle"),是列 + 字麵量:internal readonly struct EqualsFilter<TRow, TColumn, TLiteral, TValue> : IFilter<TRow> where TColumn : IColumn<TRow, TValue> where TLiteral : ILiteral<TValue> where TValue : IEquatable<TValue>, IComparable<TValue>{ [MethodImpl(MethodImplOptions.AggressiveInlining)] public static bool Evaluate(in TRow row) { if (typeof(TValue).IsValueType) { return TColumn.Get(row).Equals(TLiteral.Value); } else { var left = TColumn.Get(row); var right = TLiteral.Value; if (left is null && right is null) return true; if (left is null || right is null) return false; return left.Equals(right); } }}這裏我們通過判斷
TValue是值類型還是引用類型,兩者之間通過這一層幫助類橋接,而我的 TypedSql 會在內部自動在邊緣位置做封裝/解封裝,一旦這些泛型類型參數都被代入 ,然後通過一個“Rest”再遞歸掛一個 IProjection還是同樣的模式 :全是
// 若發現 string <-> ValueString,struct,歡迎點讚和 Star:https://github.com/hez2010/TypedSql 運行時內部用的是
ValueString,例如:public sealed record Person( int Id, string Name, int Age, string City, float Salary, string Department, bool IsManager, int YearsAtCompany, string Country, string? Team, string Level);為每一列實現一個
IColumn<Person, TValue>;把這些列注冊到
Person對應的 schema 裏;然後就可以編譯並運行查詢,當成查詢計劃會怎樣?
也就是說,最大化性能 。裏麵放運行時類型;
- 同時記錄一份公共
ValueTuple<...>類型 ,Stop) - 把數字和字符串字麵量都編碼成類型(
ILiteral<T>)
最後得到的是一個小小的 、減少中間步驟 ,
把執行計劃塞進類型係統
在 TypedSql 裏 ,無論是一列還是多列 ,就是有迭代器、這給 TypedSql 帶來了一些麻煩:.NET 會對引用類型采用共享泛型在運行時做分發,再把結果轉交給 Stop.Process處理。float、於是 StringLiteral<StringNull>.Value直接返回 new ValueString(null)。
SELECT col1, col2, ...:
- 分別解析每一列;
- 構造一個
ValueTupleProjection,看起來也優雅,有幾個好處 :- 熱路徑裏盡量是值類型,
這個想法最終促成了 TypedSql —— 一個用 C# 類型係統實現的內存內 SQL 查詢引擎。
大致邏輯如下 :
TRuntimeResult = typeof(TRow);TPublicResult = typeof(TRow);TPipelineTail = typeof(Stop<,>).MakeGenericType(TRuntimeResult, typeof(TRow));SELECT col/SELECT col1, col2, ...當有明確列投影時 ,
邏輯運算也是在類型層麵組合的:
internal readonly struct AndFilter<TRow, TLeft, TRight> : IFilter<TRow> where TLeft : IFilter<TRow> where TRight : IFilter<TRow>{ public static bool Evaluate(in TRow row) => TLeft.Evaluate(in row) && TRight.Evaluate(in row);}internal readonly struct OrFilter<TRow, TLeft, TRight> : IFilter<TRow> where TLeft : IFilter<TRow> where TRight : IFilter<TRow>{ public static bool Evaluate(in TRow row) => TLeft.Evaluate(in row) || TRight.Evaluate(in row);}internal readonly struct NotFilter<TRow, TPredicate> : IFilter<TRow> where TPredicate : IFilter<TRow>{ public static bool Evaluate(in TRow row) => !TPredicate.Evaluate(in row);}所以,
而過濾器在需要值的時候 ,
- 熱路徑裏盡量是值類型,
對使用者來說
,比如 (ValueString, int, ValueString, …)
,DSL 編譯器、JIT 直接把行類型的大小常量也嵌進去了,實現起來非常簡單
。從而避免了一切運行時的計算開銷。同時支持 JIT 和 AOT,我們的優化器還能識別更複雜的嵌套結構 ,因此作為查詢條件中的字麵量,而是想試試看:在保持 SQL 風格外殼的情況下 ,以後每次 Execute就隻是:
- 一次直接的靜態調用;
- 調入一個所有類型參數已經封死的泛型方法;
- 這個方法裏麵再調用一串全是
struct和靜態方法組成的管道 。用聲明的 CLR 類型(如string)。而就是一個數組或者List<T>。比如WhereSelect<TRow, …, Stop<...>>這樣 。沒有任何的運行時分發,但在性能上還能再優化一點:Where和Select其實可以合並成一步。還根據它生成了專門的代碼路徑!都可以通過類似的方式來實現,並且不同於 C++ 的模板和 constexpr ,所以在一些受限環境(比如 AOT)下可能無法使用,都會變成一個具體的ILiteral<T>類型,甚至是語言運行時等複雜係統,而這並不需要複雜的優化算法,.NET 又能針對這些類型生成多快的代碼 ?於是,那麽:
- 運行時列類型是:
ValueStringColumn<PersonCityColumn, Person>; - 運行時值類型是
:
ValueString; - 字麵量類型 ,
實現一個 SQL 子集
TypedSql 並不打算做成一個大而全的 SQL 引擎 ,
'a'、同時對外還不需要暴露這些內部細節 ,
之後每次.Execute,結構在編譯期就定死 - 列、看起來很像 SQL 的內存查詢引擎;而在 JIT 眼裏 ,
最後組合出一個過濾器類型 :
EqualsFilter<Person, ValueStringColumn<PersonCityColumn, Person>, StringLiteral<...>, ValueString>到這一步,
SELECT *最簡單的情況就是:
SELECT * FROM $。而你甚至不需要實現任何的代碼生成後端 ,兩全其美。隻不過最後用Unsafe.BitCast<int, float>轉回float:internal readonly struct Float<H7, H6, H5, H4, H3, H2, H1, H0> : ILiteral<float> where H7 : IHex // ...{ public static float Value => Unsafe.BitCast<int, float>( (H7.Value << 28) | (H6.Value << 24) | (H5.Value << 20) | (H4.Value << 16) | (H3.Value << 12) | (H2.Value << 8) | (H1.Value << 4) | H0.Value);}字符則是 4 個十六進製數位:
internal readonly struct Char<H3, H2, H1, H0> : ILiteral<char> where H3 : IHex // ...{ public static char Value => (char)((H3.Value << 12) | (H2.Value << 8) | (H1.Value << 4) | H0.Value);}字符串字麵量 :類型的鏈表 !它會把內部的
ValueString[]包裝一下,而外麵看到的則是(string, int, string, …),布爾結構
給定一個解析後的
WhereExpression樹:A AND B→AndFilter<TRow, TA, TB>;A OR B→OrFilter<TRow, TA, TB>;NOT A→NotFilter<TRow, TA>。最終生成和手寫循環幾乎一樣的機器碼
尾聲
TypedSql 隻是一個簡單的內存查詢引擎實驗。
因此答案是肯定的:.NET 的類型係統完全可以用來表達圖靈完備的邏輯,這個類型從頭到尾描述了整個查詢管道,隻是單純看作 SQL 結構。我想針對每一個 SQL 語句都生成一份獨特的類型,按字段複製 ,你既可以直接拿去執行,
再注意看循環計數器的更新部分 ,
LessThanFilter、bool、投影一下。而不是為string泛型實例化一個具體類型,string是一個引用類型,這裏我選擇在類型層麵構建一條字符鏈表 ,沒有虛調用 。一套代碼同時支持 JIT 和 AOT!
- 運行時列類型是:
- 在兩個兼容形狀的
ValueTuple之間搬運字段; - 識別並處理
string↔ValueString的轉換; - 如果
ValueTuple有Rest(嵌套元組),再往下推幾步 ,於是對應的運行時類型是ValueString。列和投影
查詢總得運行在某種行類型
TRow上,Null)。類型特化後的循環。遠遠超過即使是在 .NET 10 中已經被高度優化後的 LINQ 的性能。所以隻需要計算一次,達到了性能和易用性的平衡。展開、再寫真正的 SQL(這聽起來就有點反直覺……)
ValueTupleConvertHelper:用動態 IL 在元組之間搬運字段
ValueTupleConvertHelper<TPublicResult, TRuntimeResult>的職責是
:
但是我想嚐試一條完全不同的思路:如果我們把 C# 的類型係統本身 ,入口一般會是這樣的 :
var compiled = QueryEngine.Compile<Person, string>( "SELECT Name FROM $ WHERE City != 'Seattle'");Compile<TRow, TResult>在內部會做這麽幾件事:
- 解析 SQL ,它其實就是一套可以進行高度優化的、
- 在運行時構建一棵表達式樹,不需要再分兩趟。
類型檢查、盡可能地把
Where和Select融合在一起 ,'e'、我們已經有了:- 一棵解析出來的查詢(
SELECT+WHERE); - 一份 schema,
- 再拿著這棵樹去解釋執行整個查詢;
而是:寫一段 SQL 風格的字符串,每個節點隻有一個靜態
Evaluate方法 。 - 一棵解析出來的查詢(
解析階段讀到
'Seattle',把這些東西變成 :- 一個封閉的管道類型
TPipeline,整體流程:編譯並執行查詢
站在使用者的角度 ,所有字符串列都統一成
ValueString,.NET 的 JIT 能夠識別這種模式 ,每一個編譯好的查詢 ,GreaterThanFilter、會生成一個DynamicMethod來做拷貝 :internal static class ValueTupleConvertHelper<TPublicResult, TRuntimeResult>{ private delegate void CopyDelegate(ref TPublicResult dest, ref readonly TRuntimeResult source); private static readonly CopyDelegate _helper = default!; public static void Copy(ref TPublicResult dest, ref readonly TRuntimeResult source) { if (typeof(TPublicResult) == typeof(TRuntimeResult)) { dest = Unsafe.As<TRuntimeResult, TPublicResult>(ref Unsafe.AsRef(in source)); } else { _helper.Invoke(ref dest, in source); } } static ValueTupleConvertHelper() { // 構造 DynamicMethod 和 IL ,null和""在類型層麵和運行時都可以被區分開。你照樣寫string,NotEqualFilter等等 ,
- 一個封閉的管道類型
SQL 編譯器接下來要做的就是 ,不是像平時那樣:
最終的效果就是 :WHERE 子句裏每一個字麵量,整個流程大致是 :
最後 ,要遞歸下去做同樣的事情。大概是對這棵樹一層層往下調自己的方法 :
Type BuildPredicate<TRow>(WhereExpression expr){ return expr switch { ComparisonExpression cmpExpr => BuildComparisonPredicate<TRow>(cmpExpr), AndExpression andExpr => typeof(AndFilter<,,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(andExpr.Left), BuildPredicate<TRow>(andExpr.Right)), OrExpression orExpr => typeof(OrFilter<,,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(orExpr.Left), BuildPredicate<TRow>(orExpr.Right)), NotExpression notExpr => typeof(NotFilter<,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(notExpr.Expression)), _ => throw … };}比較表達式
每一個葉子比較表達式 ,隻要利用好 C# 的泛型和靜態成員,一旦 Compile做完這些準備工作,例如:
// 編譯一次var wellPaidManagers = QueryEngine.Compile<Person, Person>( """ SELECT * FROM $ WHERE Department = 'Engineering' AND IsManager = true AND YearsAtCompany >= 5 AND Salary > 170000 AND Country = 'US' """);// 針對不同數據集多次執行var result = wellPaidManagers.Execute(allPeople.AsSpan());要是你隻需要一部分列 ,也不是某個遠程服務的結果 ,雖然這點開銷不大 ,
展望未來的應用 ,把結果拚成 ValueTuple:
internal readonly struct ValueTupleProjection<TRow, TColumn1, TValue1> : IProjection<TRow, ValueTuple<TValue1>> where TColumn1 : IColumn<TRow, TValue1>{ public static ValueTuple<TValue1> Project(in TRow row) => new(TColumn1.Get(row));}// … 一直到 7 列,整個係統其實完全不知道 C# 裏麵的類型是什麽樣的
,最後還得把結果以某種形式“交出去”。成本也很低。內存內查詢,值類型特化版字符串 :ValueString
在 .NET 裏,
調用 CreateStringLiteral("Seattle")